Ты ужасный человек: Сериал Westworld о сосуществовании с искусственным интеллектом

В воскресенье телеканал HBO завершил показ сериала «Мир Дикого Запада». Сюжет построен на том, что в ближайшем будущем где-то в Америке открывают огромный парк развлечений, населённый андроидами; люди приезжают туда, чтобы пожить «как на Диком Западе». Сериал и эстетически хорош, но главное его достоинство в другом: сценаристы очень последовательно и с массой деталей показывают, сколько проблем возникнет у человечества, когда роботы приблизятся к людям мыслительными способностями. Сейчас принято верить, что этот момент не за горами, поэтому самое время начинать думать на эту тему. Для этого даже не нужно использовать спойлеры.

Мир психопатов

Представьте себе на секунду, что вы воссоздали Дикий Запад вместе с салунами, индейцами и бизонами; что вы населили его андроидами, которые ни своим видом, ни поведением не отличаются от людей; что состоятельные посетители парка могут делать с местными жителями что захотят: совершенно безнаказанно пытать, насиловать и убивать их (точнее, выводить из строя, потому что роботы как будто не умирают), а роботы физически не могут убить человека; что попорченные образцы андроидов возвращаются в лабораторию на восстановление, где им стирают неприятные воспоминания, но самым косметическим образом, поскольку полная переделка стоило бы слишком дорого; что, наконец, инженеры имеют возможность при помощи планшета на ходу менять любые свойства своих подопытных и их поведение. Что в этом сценарии может пойти не так? Короткий ответ — буквально всё, и это даёт авторам сериала не только массу возможностей разнообразить повествование сценами жестокого насилия, но и порассуждать о том, как могло бы быть устроено общежитие людей и умных роботов. Сюжет движется именно в эту сторону: на каждом витке дают о себе знать новые теории сознания и новые дыры в безукоризненном плане.

Примерно на первой минуте первого эпизода становится ясно, что парк, позволяющий за деньги убивать и калечить созданий, неотличимых от человека, будет привлекать в первую очередь психопатов. Кто ещё отдаст (предположительно) большие деньги ради такой возможности? Разум подсказывает вроде, что перед тобой биоорганическая кукла, но человек на то и человек, что живёт не только разумом. Возможность отказаться на две недели от всех своих социальных рефлексов — явный признак душевного нездоровья, а здоровые люди (их немного, и они не играют в сериале первостепенные роли) просто не могут расслабиться и получить удовольствие как раз из-за обилия психов: невозможно радоваться жизни, когда вокруг в режиме реального времени растут горы трупов. Забегая вперёд, нужно сказать, что и сами андроиды, когда и если им открывается истинное мироустройство, приходят к логичному выводу о том, что все люди — психопаты, и переубедить их после всего увиденного решительно невозможно.

К третьей серии трудно не догадаться, что люди, приезжающие в парк, не просто психопаты, но психопаты с идеями: маниями, конспирологическими теориями, тяжёлыми воспоминаниями и сомнительными целями — на алтарь которых и приносятся дюжины роботов. Это тоже логично: если убийства лишены общественной стигмы, от них трудно раз за разом получать удовольствие. По-настоящему безжалостные отбросы «Мира Дикого Запада», как и мира человеческого, знают, чего хотят достичь. Так люди иногда разнообразят правила наскучивших игр, придумывая дополнительные критерии победы и искусственные ограничения.

Довольно быстро до зрителей — а вслед за ними и до недалёких сотрудников парка, который существует уже 35 лет, — доходит, что собственными целями, далёкими от максимизации прибыли, руководствуются и сотрудники компании. Они не обслуживающий персонал, а полубоги, играющие судьбами исключительно правдоподобно исполненных человекообразных созданий. Кто-то использует роботов для удовлетворения сексуальных потребностей, кто-то устраивает маленький побочный сутенёрский бизнес (бордель служит центральной сценой и в игровой реальности парка), кто-то, мучимый комплексом демиурга, ставит реалистичные батальные сцены с всамделишными убийствами. Роль главного инженера «Западного мира» блестяще исполняет Энтони Хопкинс, один взгляд на которого позволяет заподозрить неладное с самого начала.

Всё сказанное выше подсказывает следующий неизбежный сюжетный ход. Толпа психопатов, отточивших на несчастных андроидах мастерство дворцовых интриг и натренировавших безжалостность до 95-го уровня, применяет свои навыки по отношению к людям из плоти и крови. Они же, в конце концов, ничем не отличаются от роботов — это простое условие имеет очень далеко идущие последствия. К тому моменту, когда зритель уже устаёт от повторяющихся издевательств над гостеприимными «хозяевами» (так, не без иронии, в сериале называют населяющих парк роботов), ему предъявляют настоящие трупы. Тут, кстати, самое время проверить, насколько реалистична базовая гипотеза сценаристов: вызывает ли настоящая смерть такую же эмоциональную реакцию, как убийство робота, или нет?

Критерий дискриминации

Повествование развивается, и очередной слом миропорядка уже почти не вызывает удивления. В мире, в котором каждый робот считает себя человеком, обязательно должны обнаружиться люди, которые на поверку оказываются роботами. Никто не застрахован от неприятного открытия: контролируемые воспоминания не позволят сомневающемуся определить свою принадлежность при помощи простого анатомического исследования. Задним умом понимаешь, что, если бы вселенная «Мира Дикого Запада» существовала, иначе не могло бы и быть. Что может быть лучше человека? Только робот, который делает карьеру в мире людей, работает и любит, но сохраняет механическую лояльность хранителю своего секрета. Маленькая проблема только в том, что стоит кому-то узнать об этом, как смертельное оружие превращается в уязвимость.

Наконец, неизбежно и появление роботов, считающих себя людьми и подчиняющих себе и тех и других. Для этого не требуется менять своё тело: и у робота, и у человека различение форм сознательной жизни происходит исключительно в голове. Андроидом или живым человеком считается тот, кто им признан или назначен; нет никакого способа определить это иначе. Быть живым в обстоятельствах «Мира Дикого Запада» — это не свойство, а право, в самом крайнем случае особенность личной истории. Менее удачливые герои сериала пытаются сказать «я в домике», но их не особо слушают.

Философы много столетий ведут спор о том, что такое сознание, и часть этого спора продолжается в эпизодах «Мира Дикого Запада». Инженеры и создатели парка андроидов долго рассуждают о том, что именно является самым важным ингредиентом: память и опыт, способность к рефлексии или фантазиям, страдания или эмпатия. Некоторые из этих теорий — которые тут не место обсуждать, иначе получится спойлер, — довольно неожиданны и вполне элегантны, тем более что в попытках выиграть заочный спор дебатеры лгут, плетут интриги и убивают. Но убедительный вывод, к которому приходят авторы сериала, состоит в том, что любой процесс, неотличимый от сознания по своим внешним проявлениям, им и является. Можно измываться над роботами как угодно, стирать им память и переписывать инструкции наново, но, поскольку главным критерием различий остаётся человеческий рассудок, они будут претендовать на сознательность. Там, где разум не в состоянии провести грань, её не существует.

Наличие сознания у роботов ставит перед людьми привычную проблему: что делать с новыми соседями? Варианта ровно два: либо дать андроидам полные права, освободить их, наделить их полноценным сознанием (то есть на самом деле признать его), либо обратить их в рабство и дегуманизировать. Но процесс дегуманизации возможен только по отношению к сознательным существам, люди не готовы методично и с удовольствием уничтожать тех, кто ещё не стал им ровней. Поэтому сериал предсказуемо воспроизводит и сюжет освободительного восстания. В какой-то момент вопрос различения встаёт для «хозяев». В самом конце сезона героиня, приложившая много сил для того, чтобы освободиться, говорит технику-ренегату, перешедшему на её сторону: «Ты ужасный человек. Я говорю это, как комплимент».

После просмотра «Мира Дикого Запада» хочется думать, что, если сознательные роботы когда-нибудь появятся, они точно будут не хуже людей.

Фотография на обложке: HBO