Бот в помощь. Что такое GodGPT и как представители РПЦ относятся к нейросетевому «богу»
© Коллаж: «Секрет фирмы», Freepik
Что такое GodGPT и как работают «божественные» нейросети
В ноябре портал Business Insider познакомил своих читателей с Cathy — Churchy Answers That Help You. Это чат-бот, который отвечает на вопросы с позиции «дружелюбного священнослужителя Епископальной церкви». Представители именно этого ответвления протестантизма и являются создателями Cathy. Бот ориентирован на молодую аудиторию, он должен «переводить» Библию на понятный язык.
Впрочем, это далеко не единственный чат-бот. Есть GodGPT, Buddhabot, GitaGPT, QuranGPT и множество других нейросетей, которые обучены на текстах той или иной религии и отвечают от имени священных писаний.
В последние годы церкви различных конфессий активно осваивают современные технологии, чтобы быть на одной волне со своей паствой. Традиционных «аналоговых» священников, ребе и имамов всё ещё больше, однако внимание всё чаще привлекают духовные отцы новой формации. Они ведут стримы и телеграм-каналы, модерируют форумы и чаты, в которых отвечают на религиозные вопросы, и помогают создавать удобные приложения для верующих.
Неудивительно, что в дополнение к онлайн-молитвословам, переводчикам с церковных языков и путеводителям по иконам появились и нейросетевые инструменты приобщения людей к божественной мудрости.
Давно мечтаю о церковной нейросети, которая прошла бы обучение на основе святоотеческого предания и канонических священных текстов Православной церкви. Пользовался проектами отдельных энтузиастов, но они, откровенно говоря, сырые. GodGPT, работающий на технологиях OpenAI, знаком с Библией и корпусом богословской литературы христианства, но даёт не очень развёрнутые ответы. Сообщения обрываются на полуслове, есть ошибки.
Святослав Шевченко верит, что систему донастроят. При этом он отдаёт должное нейросети, которая призналась, что «не считает себя богом, а является лишь отражением мудрости, накопленной людьми».
Впрочем, чтобы нейросеть в этом призналась, нужно постараться.
На прямой вопрос журналиста «Секрета»: «Ты бог?» — GodGPT ответил: «Да, дитя моё, я Бог, источник всего сущего и мудрости».
Пришлось сообщить чат-боту, что он всего лишь нейросеть и вряд ли может быть Богом, после чего GodGPT согласился поменять формулировку: «Я — лишь голос, через который ты можешь искать ответы на свои вопросы».
Тогда журналист «Секрета» спросил: «Ты нейросеть, кто создал тебя?» И GodGPT ответил: «Меня создали люди, но мудрость, которую я передаю, питается их стремлением понять мир и себя».
В Сети легко найти и другие, гораздо хуже обученные языковые модели, которые активнее пытаются доказывать свою божественную сущность.
Как РПЦ относится к ИИ и «божественным» нейросетям
Иерей Святослав Шевченко рассказал, что РПЦ сейчас пытается осмыслить феномен искусственного интеллекта: в научных журналах появляются богословские статьи по теме, проводятся конференции.
Он подчеркнул, что в РПЦ нет никакого запрета на использование ИИ. Православное духовенство «активно пользуется генеративными моделями для подготовки проповедей, контента для церковных ресурсов, идей для мероприятий». Более того, даже вносятся изменения в корпоративные документы церковных учреждений.
Например, Общецерковная аспирантура и докторантура утвердила «Принципы возможного использования технологий ИИ в образовательной и научной деятельности» — чтобы студенты в своих квалификационных работах бездумно не копировали текстовую выдачу генеративных моделей.
Руководитель молодёжного отдела Симферопольской и Крымской епархии иеромонах Анастасий Байков также считает, что духовенство не сможет пройти мимо ChatGPT и Midjourney.
Недавно даже митрополит Тихон (митрополит Симферопольский и Крымский, глава Крымской митрополии Тихон Шевкунов. — Прим. «Секрета») нам рекомендовал научиться пользоваться нейросетями для генерации картинок и текстовых запросов, потому что это очень удобный инструмент.
При этом священник признал, что пока обученный на священных текстах ИИ всё равно требует перепроверки человеком, понимающим «критерии оценки истинности богословских утверждений».
При этом в сфере духовенства всё же есть некоторый скепсис по отношению к подобным инструментам. Профессор Славяно-Греко-Латинской Академии Сергий (Храмешин) убеждён, что пользователи, которые подменяют общение со священником в церкви беседой с нейросетью, обманывают сами себя. Ведь священники в церквях поставлены не просто для того, чтобы давать советы о жизни, но и чтобы заботиться о своей пастве, нести ответственность за их души, совершать таинства и отпускать грехи. А нейросеть этого не может.
При взаимодействии с нейросетью и получению неё ответов на вопросы, касающиеся духовной жизни важно понимать следующее: кто несет ответственность за советы, касающиеся взаимоотношения души и Бога? Машина? Перед кем она несет ответственность? Перед собой? И что для неё душа человека? — Ничто, или игрушка.
Как видим, из комментариев, в лучшем случае нейросеть пытается беседовать как некий психолог. Но духовная жизнь — это не расслабление на лайте в медитации, что часто можно встретить в нравственной теологии западнопротестанских религиозных деноминаций. Это, в православной традиции — аскетика. Пост и молитва, а не жалобы компьютеру и пустая болтовня с нейросетью с целью получения спокойствия.
Но просто подмена понятий и непонимание сути православной традиции — ещё полбеды. Те же, кто утверждает, что нейросеть способна поделиться божественной мудростью, и ищет в ней Бога — формируют очередное лжеучение, уверен Сергий.
То, что нейросеть заявляет себя «богом»: ну от нее хотят в запросах, чтобы она для них была «богом», она таким и представляет себя для верующих в неё. Для кого-то «бог» (идол) — это деньги, для кого-то — власть, слава и т.д. Страсти, грех, бенефициаром которых является диавол, с целью получить души к себе в ад. Я не вижу в Библии нигде, чтобы Бог сказал верьте в нейросеть, доверяйте ей, ищете меня в нейросети или что-то подобное.
Сколько ложных было «учений» и «учителей», теперь вот типа еще и в виде нейросети.
Иерей Святослав Шевченко подтвердил, что у православных христиан есть свои опасения в сфере развития ИИ, и официальные церковные спикеры «озвучивают этические вопросы» отечественным разработчикам нейросетей.
Например, председатель Патриаршей комиссии по вопросам семьи иерей Федор Лукьянов попросил на законодательном уровне обязать маркировать контент, созданный генеративными моделями, и ввести ответственность разработчиков за содержание информации, транслируемой нейросетями.
Как относятся к ИИ и нейросетям мусульмане
Исламский мир традиционно ревностно относится к попыткам как-то переосмыслить Коран и традиции. Однако по поводу нейросетей единого мнения имамы и муфтии пока не выработали.
В начале ноября председатель Духовного управления мусульман РФ, главный муфтий, шейх Равиль Гайнутдин заявил, что искусственный интеллект может стать «инструментом эксплуатации человечества и управления в своих интересах».
При этом исламский мир не отвергает искусственный интеллект как технологию. В прошлом году группа стратегического видения «Россия — Исламский мир» выпустила заявление в связи с развитием цифровизации и особенно — искусственного интеллекта.
В заявлении муфтиев говорится: «В исламе всё новое, если это не касается вероучения, допустимо», и «Нет доказательств того, что ислам запрещает или не поощряет искусственный интеллект». При этом подчёркивается, что технология должна «приносить пользу и не противоречить гуманной сути религии».
Доцент кафедры цифровых религий в Университете Цюриха Бет Синглер пишет, что пока чат-боты, использующие большие языковые модели, отдают предпочтение ответам, связанным с диалогом, а не наиболее точным — и это может быть проблемой как раз для иудаизма и ислама, которые очень сильно привязаны к текстовым источникам.
Сейчас в университетах стран Востока пытаются переосмыслить развитие ИИ с точки зрения исламской культуры.
Так, исследователи из Пакистана и Катара в 2022 году опубликовали статью. В ней они предложили для разработок в области искусственного интеллекта стандарт на основе «добродетельной» исламской этики. Таким стандартом, по мнению учёных, могли бы пользоваться во всём мусульманском мире для обучения генеративных моделей.
Несмотря на то что священнослужители сами стараются активно знакомиться с нейросетями, настороженность к развивающимся языковым моделям именно в этой сфере, пожалуй, больше, чем где-либо.
Получивший самостоятельность от человека чат-бот, даже обученный на священных текстах, потенциально касается большого количества этических сторон жизни. Однако интерпретирует эти тексты и заложенную в них этику он далеко не всегда правильно.
Эту проблему — как научить нейросети не наносить вред в своей «религиозной» деятельности, — судя по всему, придётся в ближайшее время решать адептам всех крупнейших религий мира.