«Яндекс» объяснил, как борется с «галлюцинациями» нейросетей на примере «свиных крылышек»
Проблема «галлюцинаций» нейросетей — генерации ими неправдоподобной информации — постепенно решается, заявил в эфире Радио РБК Дмитрий Масюк, руководитель направления ИИ в «Яндексе». По его словам, такие ошибки сокращаются кратно каждый год, хотя стопроцентной точности добиться невозможно.
В качестве примера он привёл запрос о «свиных крылышках» — вымышленном блюде, рецепты которого тем не менее могут выдавать нейросети. Масюк пояснил, что «Алиса» в таких случаях не сочиняет ответ сама, а находит и цитирует уже существующие в сети некорректные статьи.
«Это её не извиняет… но, тем не менее, она ссылается на существующие источники»,
— отметил топ-менеджер.
Для минимизации подобных ошибок в «Яндексе» используют систему дообучения моделей, «наказывая» их за выдумки и мотивируя опираться на проверенные данные.
Свежие комментарии