Ошибка человека. IT-эксперт рассказал, при каком сценарии россиян ждёт восстание машин

В социсследовании говорится, что меньше всего опасаются восстания машин те, кто с ними работают, а также молодёжь.

Также оказалось, что в большинстве своём россияне положительно (35%) или нейтрально (40%) относятся к нейросетям. И только 20% считают такие технологии вредными.

Мнение айтишника

Глава Фонда развития цифровой экономики, бывший советник президента по вопросам развития интернета Герман Клименко для начала отметил, что удивительно мало для России людей, которые допускают возможность восстания машин. Хотя сейчас появляется много информации о том, что нейросети и ИИ могут оставить людей без работы.

«Самостоятельность принятия решений у машины за 50 лет появится. Безусловно, во многом машины будут принимать решения. Уже сейчас они принимают решения в зависимости от обстановки. Например, включает или выключает свет», — заявил он.

Но для начала полноценного восстания машин у них должен появиться разум. По словам Клименко, большинство специалистов, которые занимаются темой ИИ, уверены, что рано или поздно появится «большой ИИ». То есть это будет ИИ с разумом, который сможет сам думать.

Нынешние же версии ИИ занимаются узкими специализациями: они или рисуют, или создают тексты. «Большой ИИ» будет универсальным и сможет думать.

«Можно сказать, что 90% профессионалов верят в то, что будет восстание машин. В лоб их никто не спрашивал, но если мы допускаем, что ИИ действительно будет думать, то можно допустить, что будет восстание машин. "Думание" предполагает разное поведение, в том числе и непрогнозируемое», — отметил эксперт.

Но сам Клименко не верит в то, что ИИ сможет полноценно думать. То, что машина может выиграть в шахматы у чемпиона мира в этом спорте, никак не связано с процессом мышления. Точно также машина может быть физически сильнее человека, но всё равно останется машиной.

Эксперт весьма скептически оценивает усилия, которые сейчас прилагает человечество, чтобы обезопасить себя от потенциальных угроз со стороны машин.

«Наверное, чтобы успокоить общественность, сказать, что что-то делается», — предположил эксперт. Но сам он с трудом представляет, как можно контролировать ИИ. Можно запретить его применять в, например, атомной энергетике.

«Всегда программы будут писать люди, программисты будут ошибаться и всегда будет единственный вопрос: можно ли передать компетенции компьютеру, который может не справиться», — указал Клименко.

Он указал на то, что человек чаще ошибается, чем ИИ. В итоге человеческая ошибка может привести к тому, что мы назовём «восстанием машин». Такие ошибки выявить и исправить практически невозможно.

Мнение священника

Автор телеграм-канала «Православный футуролог», член комиссии Межсоборного присутствия по вопросам общественной жизни, культуры, науки и информации иерей Святослав Шевченко опасается угроз, связанных с ИИ.

«К 2073 году в России может быть достигнута точка технологической сингулярности, когда искусственный интеллект станет в несколько раз умнее человека. И этот процесс уже невозможно будет остановить. В результате жажды коммерческой выгоды, IT-гиганты, включенные в разработку ИИ, могут пойти на такие эксперименты и шаги, последствия которых будет невозможно предугадать», — считает священник.

По его мнению, нет гарантии, что генеративные нейросети однажды не сочтут человечество своим конкурентом или же вредной формой жизни. И этому может помешать только Бог или же глобальная катастрофа, которая изменит вектор развития человечества.

«Предупредить такое развитие событий может и человек, если начнёт что-то предпринимать прямо сейчас. Невольно вспоминаются три закона роботехники, впервые сформулированные Айзеком Азимовым в научной фантастике ещё в начале 40-х, которые запрещали вредить человеку», — считает отец Святослав.

Он указал на необходимость «вшивания» внутрь любой машины свода этических правил.

«Мир уже настолько цифровизированный, что для взятия человечества в плен уже не нужны никакие роботы. Это старые сценарии для боевиков конца 80-х начала 90-х. Достаточно по сети захватить СМИ, соцсети, банки, инфраструктурные объекты жизнеобеспечения, и можно начинать диктовать миру свои условия», — заявил отец Святослав.

Уже сейчас российские IT-компании задумываются об этих проблемах. Но по мнению отца Святослава, их основные рекомендации — не допускать ИИ к управлению стратегическими объектами, например, военными.

«Грубо говоря, оставить "красную кнопку" в аналоговом исполнении. Если мы сейчас не наденем поводок на нейросети, то в будущем они могут надеть его на нас», — резюмировал священник.