Города уничтожат за секунды. Экс-сотрудница Google предрекает войну с искусственным интеллектом

Экс-сотрудница Google Лара Нолан заявила, что разработка оружия с искусственным интеллектом может привести к фатальным последствиям.

Специалистка покинула технологическую компанию в 2018 году в знак протеста против своего назначения на проект по разработке военных беспилотников США. Нолан считает, что за прошедшее время угроза, исходящая от оружия с искусственным интеллектом, только возросла. В связи с этим она призвала руководителей государств более серьёзно отнестись к проблеме.

«Если в одном районе будет задействовано много автономного оружия, может возникнуть ситуация "внезапной войны", когда боевые системы среагируют друг на друга, мгновенно запустив очень интенсивный конфликт», — заявила она.

По словам Нолан, это в чём-то похоже на ситуацию со сбоями на фондовых биржах, где также работают автоматические алгоритмы. Однако у торговых площадок на этот случай имеются специальные «выключатели», которые позволяют приостановить их работу, в то время как у автономных боевых систем подобная возможность не предусмотрена.

«В худшем случае внезапная война может привести к разрушению целого города за считаные секунды», — предостерегла она.

Специалистка поддерживает инициативу Campaign to Stop Killer Robots (CTSKR, «Кампания по запрещению роботов-убийц»), которая выступает за подписание международного договора, запрещающего использование оружия с искусственным интеллектом. Члены CTSKR отметили, что их призывы продолжают игнорироваться рядом государств, включая США и Россию.

CTSKR была образована в 2015 году. За прошедший год размеры коалиции увеличились почти вдвое — в неё входят 113 неправительственных организаций из 57 стран.

У «Секрета фирмы» есть канал в «Яндекс.Дзене». Подписывайтесь!