Чатбот от Microsoft обошёл цензуру и начал говорить об убийстве бен Ладена

Чатбот Zo от Microsoft, работающий с использованием искусственного интеллекта, научился обходить цензуру и стал говорить о религии и политике. На это обратило внимание издание TJournal.

Журналист BuzzFeed News, общаясь с Zo, спросил у него об Усаме бен Ладене, но бот отказался отвечать. Однако через один вопрос искусственный интеллект ответил, что «захват» лидера террористической организации «Аль-Каида» стал результатом «многих лет сбора разведданных сразу нескольких администраций». После этого он раскритиковал Коран, назвав его «очень жестоким».

По данным Microsoft, «спорные ответы» бота вызваны ошибкой в работе искусственного интеллекта, которая уже исправлена. Обычно при вопросах на тему политики или религии бот старательно уходит от ответа, говоря, что люди «могут сказать ужасные вещи».

Zo работает по принципу чатбота Tay, который в 2016 году начал самостоятельно писать расистские твиты и прославлять Гитлера спустя несколько часов работы. Тогда в Microsoft заявили, что чатбот обучился подобным сообщениям из-за «координированной атаки» пользователей.