ИИ-боты «тупеют» при длительном общении с человеком. Показало большое исследование Microsoft

Учёные разбили массив на естественные многоходовые диалоги с обменом репликами. Оказалось, что модели постепенно «теряются в разговоре» — качество их ответов снижается по мере продолжения беседы.

При длительном общении ИИ начинает «галлюцинировать» и давать откровенно неверные ответы. Пользователи называют это эффектом «оглупления» чат-ботов.

Исследование показало: чем дольше длится диалог, тем хуже модель справляется с задачами. Причины такой деградации учёные пока не раскрывают.

Работа охватила все передовые модели искусственного интеллекта, доступные на рынке. Проблема оказалась общей для всех систем, независимо от разработчика и архитектуры.

Microsoft Research — исследовательское подразделение корпорации Microsoft. Компания активно развивает направление искусственного интеллекта и интегрирует ИИ-технологии в свои продукты, включая поисковик Bing и офисный пакет.