«Это ее не извиняет»: в Яндексе отреагировали на фантазии «Алисы» о свиных крылышках
«Яндекс» объяснил, как борется с «галлюцинациями» нейросетей на примере «свиных крылышек»
Проблема «галлюцинаций» нейросетей — генерации ими неправдоподобной информации — постепенно решается, заявил в эфире Радио РБК Дмитрий Масюк, руководитель направления ИИ в «Яндексе». По его словам, такие ошибки сокращаются кратно каждый год, хотя стопроцентной точности добиться невозможно.
В качестве примера он привёл запрос о «свиных крылышках» — вымышленном блюде, рецепты которого тем не менее могут выдавать нейросети. Масюк пояснил, что «Алиса» в таких случаях не сочиняет ответ сама, а находит и цитирует уже существующие в сети некорректные статьи.
«Это её не извиняет… но, тем не менее, она ссылается на существующие источники»,
— отметил топ-менеджер.
Для минимизации подобных ошибок в «Яндексе» используют систему дообучения моделей, «наказывая» их за выдумки и мотивируя опираться на проверенные данные.
Уважаемые читатели "Царьграда"!
Присоединяйтесь к нам в соцсетях "ВКонтакте" и "Одноклассники", также подписывайтесь на наш телеграм-канал.
Если вам есть чем поделиться с редакцией "Царьград. Беларусь", присылайте свои наблюдения, вопросы, новости на электронную почту belorussia@Tsargrad.TV.