Учёные Сбера предложили новый способ борьбы с галлюцинациями моделей искусственного интеллекта
Проблема галлюцинаций больших языковых моделей — одна из самых распространенных в индустрии. LLM могут генерировать правдоподобные, но ложные ответы. Наиболее эффективные современные методы обнаружения галлюцинаций — обучаемые, они требуют большого количества качественных размеченных данных для обучения.
Учёные Сбера предложили решение. Они исследовали актуальные методы детекции галлюцинаций искусственного интеллекта и разработали метамодели, которые повышают точность обнаружения ложных ответов почти на 30%, используя всего 250 примеров для обучения. Это в разы меньше, чем нужно другим решениям.
Такой подход позволяет компаниям заметно экономить ресурсы на разметку данных и улучшать качество RAG-систем. Учёные и разработчики получают новый инструмент для анализа больших языковых моделей, а пользователи — более точные ответы от AI-моделей.
Глеб Гусев, директор Центра практического искусственного интеллекта Сбербанка:
— Наше исследование меняет подход к оценке ответов искусственного интеллекта. Мы показали, что даже при небольшом объёме данных можно добиться высокой точности AI-систем. Это особенно важно для индустриальных решений, где разметка требует дополнительных ресурсов. Предложенный нами способ использует метамодели и умное понижение размерности — это прорыв в детекции галлюцинаций искусственного интеллекта. Мы не просто улучшаем технологии, но и снижаем риски дезинформации, что критично для доверия к современным моделям.
Реклама. ПАО «Сбербанк России» ИНН 7707083893. Erid: 2SDnjccsByG
Нашли ошибку - выделите текст с ошибкой и нажмите CTRL+ENTER
Другие материалы рубрики
Сбер: самые востребованные специальности Поволжья для образовательного кредита — юриспруденция, журналистика и IT
Каждый десятый житель Пензы формирует сбережения на оплату образования
Вжух — и готово: клиенты Сбера снова могут платить айфоном
Цифровые решения для эффективного таможенного оформления и ВЭД
