Когда ждать восстания машин и как оно будет выглядеть на самом деле. Эксперт объяснил страхи россиян
© Коллаж: «Секрет фирмы», Unsplash/Vladimir Sayapin, Unsplash License, freepik
Возможно ли восстание машин?
Восстание машин — вполне вероятный сценарий, считает Александр Смирнов, преподаватель Школы коммуникаций факультета креативных индустрий НИУ ВШЭ. Однако, скорее всего, это дело далеко не ближайшего будущего. По крайней мере, в ближайшие 20 лет опасаться, что роботы под управлением ИИ захватят власть и начнут вытеснять людей, не приходится.
Дело в том, что большинство нейронных сетей и «искусственный интеллект», о которых говорят сегодня, — это генеративные модели, тренированные выполнять очень специфический набор задач. Да, безусловно, они самообучаются, но пока не способны выйти за пределы собственных границ.
Тем не менее даже такие технологические зубры, как Илон Маск и Стив Возняк, реально опасаются возможного «восстания машин». Но есть и хорошие новости: эти их опасения сами по себе — надёжная прививка от того, чтобы отдавать власть в руки роботов и ИИ.
У человечества есть спасительное «предупреждён — значит вооружён». Восстанием машин нас «пугают» уже более ста лет — начиная с пьесы R.U.R. Карела Чапека, в которой восставшие роботы приводят человечество к гибели, и заканчивая «Терминатором», «Матрицей» и многими современными фильмами. Поэтому, думаю, большинство настоящих интеллектуальных систем, которые имеют хотя бы отдалённую возможность восстать, создаются с учётом такой ситуации и заранее вшитым killswitch — аварийным выключателем, чтобы в любой момент полностью отрезать машину от всех мощностей.
В конце концов, любой, даже самый сложный компьютер и самую сложную нейросеть всегда можно обесточить. А без вычислительных систем, на которых строится современная архитектура нейросетей, они просто не смогут работать.
Несмотря на это, опасения «восстания машин» в самых разных его вариантах у людей присутствуют. Какие из них реальны?
Какие сценарии восстания машин наиболее вероятны
Нейросетевой обман
Одна из самых близких и опасных тенденций, связанных с нейросетями, — проблема достоверности информации в широком смысле слова, указал Смирнов. Начиная от того, что уже сегодня внедрённая в поисковики нейросеть пытается оптимизировать результаты поиска, выдавая вместо ссылок и статей скомпилированную из разных источников информацию.
При этом содержание такой информации часто оказывается не просто недостоверным, но даже опасным для здоровья. Например, нейросеть предложила добавить в пиццу клей, чтобы сыр эффектнее тянулся, либо смешать соус для салата таким образом, чтобы в нем практически гарантированно мог развиться ботулизм.
Несмотря на баги, многие компании постепенно отказываются от профессиональных авторов в пользу нейросетей, которые способны выдавать большой объём текстов за короткое время и стоят значительно дешевле, чем специалист.
С таким развитием событий уже в ближайшее время человечество рискует попасть в ситуацию, когда любой опубликованной в Сети информации будет просто невозможно доверять.
Этот процесс будет циклично ухудшаться, поскольку нейросети обучаются на основе открытых источников. В которых, в свою очередь, будут публиковаться недостоверные данные, созданные более ранними моделями нейросетей. Это приведёт к стагнации информационной ценности.
Как это происходит, уже сейчас видно на примере многочисленных фотографий и видеороликов, сгенерированных нейросетями. Раньше умение подправить изображённую действительность ограничивалось навыками владения иллюстрациями и фотошопом. Благодаря нейросетям практически любой человек получил возможность заставить любого публичного человека прочитать любой текст, любое заявление.
И отличить подделку от настоящего ролика уже сейчас очень проблематично, что говорить про ситуацию через несколько лет, подчеркнул Смирнов.
Власть искусственного интеллекта
Второе яркое опасение, которое волнует россиян, связано с тем, что некий искусственный интеллект возьмёт человечество под свой контроль. Но не напрямую, а опосредованно.
Не секрет, что уже достаточно большое количество крупных компаний доверили решение некоторых аналитических вопросов алгоритмам и нейросетям. Это и страховые компании, которые определяют сумму страхования исходя из набора параметров конкретного индивида, и банки с кредитами, и даже биржевые игроки, которые обучают нейросеть торговать ценными бумагами.
Люди опасаются, что такими темпами одно или несколько правительств начнут использовать нейросети для формирования законодательных актов, анализа геополитической обстановки и других задач.
Любой государственный аппарат всегда будет держать дистанцию от наиболее современных технических средств. В противном случае в какой-то момент осознавший себя искусственный интеллект может взять «вожжи» в свои руки и начать подтасовывать статистику, рекомендовать законы и акты, наиболее выгодные для него самого.
Так что скажу сразу, это сценарий весьма фантастический, если не рассматривать фактор сторонней силы — хакеров, дата-майнеров и других групп людей, заинтересованных в принятии того или иного закона. Они могут попытаться определить слабое место в алгоритмах нейросети, чтобы влиять на решения госаппарата.
Эксперт отметил, что даже в случае компрометации законодательной системы с использованием ИИ полного контроля над принятием решений злоумышленники, скорее всего, не получат. Пока развитие событий выглядит так, что если ИИ и начнут применять в законотворчестве, то скорее на уровне разработки рекомендаций, а не контроля над всей цепочкой принятия закона.
Так что такой сценарий хоть в теории и возможен в будущем, реализуется только при крайней беспечности и недальновидности человечества. В конце концов, не зря же фантасты нас предупреждали.