secretmag.ru
Опубликовано 18 февраля 2022, 17:25
19 мин.

Троллинг, паника, сострадание. Почему интернет заполонили фейки и реально ли им противостоять

Во время чрезвычайных ситуаций, будь то пандемия, катастрофа или военный конфликт, особенно остро встаёт проблема дезинформации, которая буквально затапливает соцсети и медиа. Одни фейки быстро разоблачаются или теряют актуальность со временем, другие гуляют по Сети десятилетиями, обрастая всё новыми подробностями. Можно ли бороться с ними, как правильно проверять факты и почему люди охотно распространяют недостоверные сведения — в материале «Секрета».

Троллинг, паника, сострадание. Почему интернет заполонили фейки и реально ли им противостоять

Что такое фейк

Фейк (от англ. fake — фальшивка) — это любая полностью или частично недостоверная информация, размещённая в интернете, СМИ, медиа. Фейком может быть пост, новость, видео, картинка, аккаунт в соцсетях и даже сайт — имитирующий известный ресурс.

Какие бывают фейки и кто их запускает?

Фейки можно разделить на заказные (намеренные) и стихийные (ненамеренные). Последнее чаще всего — народное творчество, появляющееся по недомыслию, из желания всех разыграть или из любви к искусству троллинга. С помощью громких и провокационных тем (вокруг которых чаще всего и крутятся фальсификации) авторы фейков нередко пытаются привлечь трафик в соцсетях или на сайтах.

Павел Банников
главный редактор проекта «Фактчек в Казахстане», член Альянса русскоязычных фактчекеров

Большинство фейков появляется просто от скуки и не очень опасны. Сидит такой Васисуалий где-нибудь в Челябинске, ему становится скучно, он создаёт в «Фотошопе» фотографию какой-нибудь закарпатской чупакабры, лепит подпись, что этого монстра нашли под Челябинском, постит у себя — и внезапно этот пост становится вирусным. Ничего страшного при этом не происходит.


Банников пояснил, что чаще всего фейки распространяют обычные люди, которым показалось, что эта информация важна. Самые популярные фейки — те, что связаны с угрозами — детям, здоровью, свободе. Все эти сюжеты можно поделить на две категории: «нас хотят убить» и «нами хотят тайно управлять».

Опаснее всего на краткосрочной дистанции — террористические фейки. К ним относятся, например, сообщения о ложном минировании, выдуманных преступлениях той или иной группы людей, терактах, войне, нападениях, убийствах. Порой в распространении таких фейков обвиняют различные «деструктивные силы» из-за рубежа, но иногда виновниками переполоха могут оказаться даже обычные школьники.

«Для кого-то это способ самоутверждения, игра на человеческих слабостях. А для кого-то целенаправленная подрывная работа, стремление сеять сомнения и недоверие, создавать панические настроения и дискредитировать власть», — пояснили в антитеррористической комиссии Ставрополья. По словам представителей ведомства, нередко сеющие панику фейки запускают из ненависти и «ущербного желания навредить».

Но бывают фейки и непреднамеренные — из-за недостаточного фактчекинга (проверки фактов) или случайности. Например, Bloomberg опубликовал новость о начавшемся вторжении России на Украину. Никакого вторжения конечно же не было. Материал провисел на главной странице сайта СМИ с полчаса, после чего его убрали и объяснили его появление тем, что журналисты сделали «заготовку» на случай, если война всё-таки начнётся, и ошибочно опубликовали её.

В Кремле заявили, что такие сообщения на фоне постоянной напряжённости могут привести к непоправимым последствиям, и даже предложили заменить термин fake news на Bloomberg-news.

Троллинг, паника, сострадание. Почему интернет заполонили фейки и реально ли им противостоять

Почему люди верят фейкам и распространяют их?

Часто фейки оказываются сделанными настолько неумело и топорно, что при пристальном рассмотрении даже непрофессионал легко может заподозрить в нём подделку и недостоверную информацию. Однако, несмотря на достаточно примитивные формы, фейки успешно манипулируют эмоциями, разглядеть за которыми утку становится сложнее. Это позволяет фальсификациям распространяться по Сети со скоростью лесного пожара.

Почему же люди охотно верят фейкам и редко проверяют информацию, прежде чем нажать кнопку репоста? Здесь в дело вступают особенности нашей психики, убеждены психологи.

Анна Крючкова
когнитивно-поведенческий и телесно ориентированный психолог

Мозг так устроен, что всегда ищет угрозы, мнимые и реальные. Поэтому очень просто пойти на поводу у своих эмоций вместо того, чтобы тратить время и усилия на обуздание собственного страха и нахождение рационального варианта поведения. Людей ловят на такие эмоциональные крючки, как катастрофизация, генерализация, ксенофобия. Всё, что связано с разделением на чужих и своих, поляризацией мира, — это очень примитивные штуки, на которые люди, особенно тревожные, ведутся просто на автомате.

В случае с фейками вроде «спасите детей!», «спасите животных» и т. д. легко манипулировать на человеческом сострадании и сопереживании. Нажав кнопку репоста, пользователь чувствует, что совершил доброе дело, которое ему фактически ничего не стоило. Вообще, любой фейк рассчитан на воздействие на эмоциональную сферу. Чем сильнее человек откликается на предложенную проблематику, тем меньше у него контроля и критики информации.

В этом контексте всевозможные теории заговора — прекраснейшее поле для манипуляций. Не потому, что люди так уж доверчивы, но тут срабатывает сразу много факторов и ловушек мышления. «Мы с тобой избраны и знаем что-то, что недоступно уму остальных», «мы вместе в этом знании и наслаждаемся чувством единения», «мы умнее всех, кто попался на обман и заговор» — это всё очень приятные мысли, эмоциональные выгоды, которые получает человек, покупающийся на теорию заговора.


Верить в свою избранность гораздо привлекательнее, чем чувствовать себя обведёнными вокруг пальца, хотя именно ими сторонники таких теорий и становятся. Не то, чтобы у человека сильна потребность быть обманутым, пояснила психолог. Скорее, он надеется на то, что, если он совершит ряд каких-то действий, он не будет обманут. Эта вера в возможность подстраховаться от обмана — одно из когнитивных искажений, на которых основаны практически все фейки.

Даже когда люди понимают, что какая-то информация может не соответствовать действительности, они всё равно испытывают искушение её переслать, указал фактчекер Павел Банников. Так устроен наш мозг: на протяжении веков единственным источником информации для многих были не книги и газеты, а слухи, домыслы, гуляющие сюжеты, отметил он. С годами этот феномен никуда не делся и проник в социальные сети и мессенджеры. Теперь у людей появилась возможность в два счёта распространить любой слух на десятки тысяч интернет-пользователей.

И особенно заметна становится их любовь к слухам в моменты паники или социальной напряжённости. «Это давно исследованный антропологический социальный феномен: в ситуации паники люди начинают распространять любую информацию — на случай, что окажется полезной. Вдруг она предупредит об опасности? И это нормальное поведение, такой как бы социальный клей. Он склеивает людей», — считает одна из авторов «Энциклопедии фейков и слухов» Александра Архипова.

При этом, по её словам, часто «расшаривают» заведомую неправду ради того, чтобы донести до аудитории мысль об опасности, пусть даже через преувеличение, ради розыгрыша или увеличения символического статуса за счёт обладания той самой «уникальной информацией». Если она выглядит шокирующе новой и шокирующе неприятной, вероятность того, что её «отрепостят», резко повышается — так в том числе работает древний эволюционный механизм предупреждения членов племени об опасности. «Если мы будем сначала анализировать, нас съест лев», — подытожила Архипова.

Часто фейки становятся следствием паники, а не её причиной. Так было с фейками про коронавирус, когда по Сети широко расходились советы «как защитить себя от коронавируса», по мере распространения обрастающие дополнениями, как «коллективное письмо» дяди Фёдора из Простоквашино.

Группа учёных из РАНХиГС, изучающая особенности российской инфодемии, выделила следующие причины вирусного распространения фейков в моменты катастроф:

  • недоверие к институтам власти и официальным источникам информации;
  • поддерживание социальных связей за счёт обмена слухами;
  • отсутствие ощущения контроля над жизнью;
  • склонность в стрессовой ситуации делиться даже той информацией, в достоверности которой сомневаются, причём вне зависимости от пола, возраста и уровня образования.
Троллинг, паника, сострадание. Почему интернет заполонили фейки и реально ли им противостоять

Последствия фейков и кому они выгодны

Даже если запущенный в качестве шутки фейк кажется авторам безобидным, у многих из них могут быть весьма серьёзные и плачевные последствия. Что уж говорить о фейках злонамеренных.

Иногда дезинформацию сеют вполне конкретные силы с политическими мотивами. В процессе предвыборных кампаний штабы кандидатов активно обрабатывают электорат. Сообщения, которые доносятся до избирателей, не всегда правдивы (не важно — частично или полностью). Фейковые новости вполне способны повлиять на настроения избирателей, спровоцировать их недовольство, снизить явку и уронить рейтинг кандидатов.

Например, накануне выборов в Госдуму в 2021 году в Рунете насчитывалось почти 40 000 фейков, связанных с этой темой. По мнению Лиги безопасного интернета, в основном дезинформация распространялась с территории Украины, Польши и Латвии, политические отношения с которыми в последние годы довольно прохладные. Чаще всего писали о введении локдауна сразу после даты голосования, об обязательной вакцинации участников избирательного процесса и об отмене видеонаблюдения за голосованием.

Западные политики тоже страдают от фейков, которыми сопровождается едва ли не каждая избирательная кампания. Чаще всего муссируются сообщения о состоянии здоровья кандидатов, о их тайных договорённостях и приверженности тем или иным силам, о их семейных скандалах.

В ходе выборов в президенты США в 2016 году Facebook не раз обвиняли в распространении фейковых новостей про Дональда Трампа и Хиллари Клинтон. В некоторых из них неверно указывали день выборов. Другие были рассчитаны на представителей конкретной расы или этнической группы, которую надо было склонить в сторону одного кандидата. Для этого использовались различные провокации и вымышленные истории.

Экс-президент США Дональд Трамп даже заявлял что труднее всего ему было работать не с геополитическими противниками, а с американцами, распространявших фейки про его дружбу с Россией и сговоре с Путиным.

«Русский след» в победе Трампа на выборах демократы искали на протяжении всех четырёх лет его работы президентом. Несмотря на отсутствие внятных доказательств, они продолжают это делать и спустя год после его ухода.

В последнее время популярность набрали также фейки, связанные с коронавирусом и вакцинацией от него. С момента начала пандемии Сеть и медиа полнились непроверенной и противоречивой информацией. В результате разобраться, где правда, рядовому пользователю Сети стало очень сложно.

Обилие недостоверной информации и нагнетание истерии вокруг этой темы уже привели к тому, что темпы вакцинации в России и мире значительно ниже необходимых для остановки пандемии, а против действий властей по сдерживанию коронавируса вспыхивают протесты, кое-где переходящие в бунты.

Павел Банников
главный редактор проекта «Фактчек в Казахстане», член Альянса русскоязычных фактчекеров

Есть небольшой, но активный процент людей, которые зарабатывают на страхе, на распространении конспирологических теорий. Зарабатывать при этом они могут разными способами. Например, наращивать большую аудиторию, которую можно конвертировать в финансы через донаты и продажу рекламы. Либо конвертировать эту аудиторию в политический капитал. Это довольно опасная сторона, потому что возникает феномен моральной паники. Для того чтобы удержать привлечённую фейками аудиторию, её нужно постоянно держать в стрессе, пугать какими-то новыми вещами.

Для этого неизбежно используется язык ненависти — посмотрите, что происходит вокруг темы вакцинации. Сторонников вакцинации называют вакцинофашистами, мол, они всех хотят «загнать в цифровое гетто», «вколоть жижу» и так далее. При этом удивительным образом сочетаются сравнения себя с евреями во время холокоста и антисемитская риторика. Главная опасность — язык ненависти рано или поздно переходит ту грань, за которой он прекращает быть языком и выливается в реальность, в реальную ненависть и насилие. Это мы наблюдали, и когда люди жгли вышки связи 5G, и во время захвата Капитолия.


Совокупный ущерб от массовой дезинформации по теме коронавируса оказался катастрофическим.

Всевозможные народные рецепты лечения и уверения в том, что вирус не опаснее простуды, зачастую приводили к тому, что люди обращались к врачу слишком поздно. Ряд людей и вовсе отрицает существование пандемии, не защищаясь и ежедневно рискуя пополнить ряды заболевших.

В результате пандемия пока и не думает заканчиваться. А вместе с ней — и фейкодемия. Это оказывается на руку всевозможным мошенникам.

С началом пандемии развернулось множество криминальных схем, эксплуатирующих страх людей перед новой болезнью и изменившейся реальностью. Одни продавали медицинские справки о вакцинации, пропуска, медотводы и QR-коды, другие массово создавали поддельные сайты «Федеральных служб компенсации» и «Агентств по выплате коронавирусных пособий», где убеждали пользователей оставить данные своей карты для зачисления денег от государства. Третьи использовали страх перед чипированием и новой технологией связи 5G и продавали крема и флешки, якобы призванные защитить от смертоносного или контролирующего излучения.

На любви пользователей Сети к фейкам иногда можно построить целый медиабизнес. В России есть сатирическое СМИ «Панорама» — его авторы специально выдумывают и публикуют шутливые новости, которые кажутся столь же невероятными, сколь и достоверными, потому что «могли бы произойти на самом деле». Несмотря на то что они подписывают свои материалы и помечают, что они выдуманы в развлекательных целях, эти новости активно распространяют по Сети уже без ссылки на «Панораму» как настоящие. Их цитируют политики, приводят в пример СМИ, и далеко не все в погоне за вниманием аудитории вспоминают о проверке первоисточника шокирующей информации.

Виталий Манн
основатель «Панорамы»

Наблюдать за распространением довольно забавно, особенно если речь идёт о новостях, которые на сленге называют толстыми. Вот было смешно, когда люди поверили, что в Берлине состоялся митинг за возвращение ГДР. И это несмотря на то что новость была снабжена различными деталями, намекающими на её шутливость. А одна пожилая женщина в Архангельске провела согласованный митинг против распродажи России клану Рокфеллеров.

Люди по своей природе доверчивы, если та или иная новость им кажется реальной и вписывающейся в картину мира, они склонны принимать её на веру.


Чтобы как-то противодействовать вредной дезинформации, в 2019 году в России приняли закон «Об информации, информационных технологиях и о защите информации», прозванный в СМИ «законом о фейках». Теперь за создание и распространение фейковых новостей, особенно если они повлекли за собой какой-то ущерб и создали панику, предусмотрены серьёзные штрафы. К сатире пока претензий не предъявляли, но всё-таки какие-то темы даже в этом формате могут стать неожиданно острыми.

Кто и как борется с фейками в интернете?

Чтобы не попасться на удочку фейкоделов, не лишним оказывается проверка приведённых в той или иной статье фактов — фактчекинг. Минимальный фактчекинг доступен любому человеку, умеющему пользоваться поисковиками и анализировать информацию.

Например, заподозрить фейковую страницу в соцсетях можно, если профиль заполнен частично или не заполнен вовсе, на странице минимум фотографий (которые поиском по картинке нередко приводят на фотосток или к другому пользователю с другим именем), на многих из которых сложно распознать лицо, а на стене преобладают репосты и спам. При этом пользователь может активно писать на страницах других пользователей или сообществ, особенно если речь идёт о неких триггерных темах — политика, пандемия и т. п.

Распознать фейковую информацию подчас сложнее. На определённые сомнения должны наводить громкие завлекающие фразы, никак не связанные с основным содержанием статьи или поста, отсутствие указания и ссылок на первоисточники, скандальность подачи и требования распространения (о других признаках мы рассказываем ниже).

Но иногда для того, чтобы выяснить фейк, приходится прибегать к помощи экспертов — фактчекеров.

Фактчекинговые агентства, как правило, состоят из бывших журналистов, которые сделали своей работой поиск и сверку достоверности информации. Они предлагают фактчек как услугу, но также действуют на добровольной основе как исследователи. В Рунете этим занимается считаное число ресурсов: «Проверено.Медиа» и FakeCheck, плюс русскоязычная часть казахского ресурса factcheck.kz. Кроме того, в 2021 году в борьбе с фейками объединились крупнейшие российские СМИ и медиаплощадки. Свой «Альянс фактчекеров» существует и на платформе «Яндекс.Кью», где эксперты в различных областях отвечают на вопросы пользователей.

Троллинг, паника, сострадание. Почему интернет заполонили фейки и реально ли им противостоять

По каким же признакам они распознают фейки? По словам члена Альянса фактчекеров Павла Банникова, для этого используется целая система оценки потенциальной недостоверности информации:

  • Первый признак — уровень распространённости сюжета. Часто ли его репостят, сколько людей он потенциально охватывает, получил ли он освещение в СМИ и других источниках. Если что-то распространено — значит, влияет на общество и может быть предметом проверки.
  • Второе условие — общественная значимость и общественный интерес. Имеет смысл в первую очередь проверять те высказывания и факты, которые важны для общества и отражают какие-то фундаментальные процессы.
  • И последний пункт — потенциальная проверяемость. Невозможно проверить и опровергнуть чьё-то мнение, например, о будущем. Проверке поддаются только данные и цифры из прошлого и настоящего.

Универсальных признаков фейка при этом не существует, указал основатель «Проверено.Медиа» Илья Бер. Однако в ряде случаев фейк может опознать даже непрофессионал. Это не потребует много времени, только внимательность.

  • Во-первых, нужно смотреть на источник информации. Если это непонятный блог или канал, или СМИ, о котором вы слышите впервые, это может и должно вызывать некоторые сомнения.
  • Во-вторых, выбор лексики. Сенсационная лексика типа «Шок, сенсация, вы не поверите!», которая явно и грубо давит на эмоции, — тоже признак того, что перед вами материал как минимум манипулятивный, а значит, с высокой вероятностью — недостоверный.
  • Ну и, в третьих, с большой осторожностью надо относиться к анонимным текстам и каналам. Общая рекомендация: не читать анонимные телеграм-каналы и блоги. Не понимая, кто пишет этот контент, нельзя понять их мотивацию, цели и задачи, они не несут ответственности за свои слова.

Основной помощник в борьбе с фейками — это сам интернет с его обширными объёмами информации. По словам Павла Банникова, в основном фактчекеры используют вполне открытые источники, хотя иногда ради проверки приходится заходить и в серую зону — например, в Даркнет. Но умение работать с информацией — не единственное, что нужно для глубокой проверки фактов.

Как правило, в эту сферу идут журналисты и эксперты в самых разных областях, которые уже могут отличить, какой источник методологически достоверен и можно ли его перепроверить. В равной степени важно иметь фундаментальные знания в какой-то конкретной сфере и общую эрудицию, понимать, как устроен мир и как работает научный метод. Кроме того, как отметили собеседники «Секрета», для этой работы нужен определённый склад ума, жизненный опыт, въедливость и любопытство.

Большинство людей в России никогда не слышали слово «фактчекинг» и не знают, что есть специализированные ресурсы, которые проверяют информацию на достоверность. Порой достаточно прибегнуть к обычному поисковику или здравому смыслу. Но до момента, когда проверка информации станет нормой, а пользователи перестанут массово вестись на откровенные фейки, предстоит ещё немало просветительской работы со стороны государства, СМИ и профильных агентств. И одна из немаловажных задач на этом пути — изменить негативное отношение рядовых пользователей интернета к идее проверки фактов.

Как указал Илья Бер, у многих в головах слово «фактчек» приравнивается к слову «цензура». Именно фактчекеров, вынесших вердикт о недостоверности информации во многих постах Дональда Трампа, в своё время обвиняли в том, что все каналы бывшего американского президента оказались заблокированы. Несмотря на то что фактчекеры никого не блокируют — они лишь дают ответ, насколько правдива та или иная информация, — находится достаточно людей с вопросами, кто проверяет фактчекеров и не проплачены ли их вердикты. И зачастую ответ на этот вопрос они слышать не хотят.

Павел Банников признался, что негатив в адрес борцов с фейками звучит достаточно регулярно, причём доходит даже до кибербуллинга и прямых угроз. Массовым онлайн-хейт стал именно во время пандемии, когда их работа стала особенно сильно видна. Фактчекеры привыкли относиться к этому как к издержкам работы, но порой пробивает даже самых опытных и толстокожих. Для борьбы с выгоранием приходится прибегать к помощи психотерапевтов. Но в целом участники альянсов и агентств уверены, что делают нужную работу, и стараются быть объективными и аргументированными в своих оценках.

Помогут ли ИИ и алгоритмы? Опыт соцсетей

Проблема фейков особенно актуальна для социальных сетей, где контроль над тем, что пишут те или иные пользователи, куда меньше, чем в СМИ, а объёмы генерируемого контента — в разы больше. При этом из-за непрозрачности первоисточников информации и отсутствия конкретики в фейковых постах они могут гулять по Сети годами.

В частности, уже более десяти лет по Рунету распространяется фейк про 20 служебных овчарок, которых хотят усыпить где-то в Подмосковье. «Нужна максимальная огласка!!!» — такой надписью обычно сопровождаются подобные посты, и сердобольные россияне с готовностью пересылают это письмо счастья дальше по роутингу, не проверив, живы ли ещё те собачки или уже мирно скончались от старости. Не менее живучи и мифы о «новом правиле, по которому с завтрашнего дня соцсети смогут использовать ваши фото и посты» и декларации пользователей, объявляющих содержимое своей странички своей интеллектуальной собственностью.

Однако в случае с соцсетями удаётся отчасти переложить задачи по выявлению фальсификаций на самих пользователей — возможность пожаловаться на тот или иной материал и привлечь внимание модераторов позволяет сузить область поиска фейков.

Порой обходится и без привлечения модераторов — алгоритмы, действующие по ключевым словам, могут самостоятельно помечать те или иные посты как содержащие потенциальную дезинформацию или язык ненависти.

Троллинг, паника, сострадание. Почему интернет заполонили фейки и реально ли им противостоять

Facebook начал широкомасштабную кампанию по борьбе с дезинформацией в 2017 году. Соцсеть стала самостоятельно выявлять подозрительные профили, систематически публикующие информацию противоправного характера или спам.

Рекламу таких аккаунтов запретили, а они сами получали пометку «ложная информация». В принадлежащем корпорации мессенджере WhatsApp для борьбы с пересылками «писем счастья» стали запрещать пересылать другим пользователям сообщения, если ранее они были переданы более пяти раз.

С началом пандемии и ростом числа фейков о коронавирусе в Facebook также появилась плашка «Узнать больше о вакцинации», которая автоматически выходит под всеми постами с рассуждениями о прививках и коронавирусе. Это позволяет пользователям сверить написанное с официальной информацией. Кроме того, после вспышки мошеннических объявлений и спекуляций Facebook начал удалять все посты с рекламой лжепрепаратов от коронавируса.

Facebook оценивает общую долю фейков примерно в 1% от всего содержимого соцсети. Однако, по словам бывшего сотрудника компании и одного из создателей её рекламной стратегии Антонио Гарсия Мартинеса, именно скандальные, сенсационные, безумные фейковые новости приносят больше всего лайков, шеров и комментариев. А каждый комментарий — даже в духе «полный бред» — это дополнительный доход для соцсети.

С 2019 году предупреждения о недостоверной информации начала выводить и российская соцсеть «ВКонтакте». Страницы, получившие такое предупреждение, удаляются из поисковой выдачи, а группа перестаёт отображаться в списке подписок пользователя. Таким образом, вероятность, что страница будет найдена пользователем, минимальна.

В Twitter с 2020 года также действует маркировка постов, содержащих отредактированные фото- и видеофайлы. Их выявлением занимаются специальные алгоритмы. Такие посты сопровождаются пояснениями об изменениях и реже выводятся в тренды. А если алгоритм посчитает, что фейк создает угрозу безопасности людей, нарушает право на частную жизнь или может вызвать массовое насилие и беспорядки, он и вовсе будет удалён.

Опрошенные «Секретом» эксперты сходятся во мнении, что одна из основных сложностей в сфере фактчекинга — невозможность полностью выключить человека из процесса сверки фактов и поручить эту работу алгоритмам. Ведь фейки — это история именно про факты, было или нет, а не про внешние признаки.

Тем не менее определённые инструменты, чтобы облегчить работу фактчекерам, есть. Одни из них помогают сузить область поиска потенциальных фейков, отслеживая тренды в соцсетях. Другие анализируют лингвистическую составляющую. Но точность таких алгоритмов пока невысока, а в деле борьбы с фейками искусственный интеллект чаще всего выступает не на стороне искателей правды.

Илья Бер
основатель «Проверено.Медиа»

В фактчекинге много задач, которые пока нельзя перепоручить машине. Наверное, исторически, глядя на то, как развивались другие области, где сейчас применяется искусственный интеллект, можно предположить, что это возможно, всё зависит от приложенных усилий и ресурсов. Не исключаю, что лет через пять-десять ИИ будет играть большую роль и в фактчекинге тоже. Но пока это правда очень сложная задача, она сложно стандартизируется. Чтобы этого добиться, нужно разбить её на множество простых понятных машине задач.

Основная сложность в том, что фактчекинг — это проверка не внешних признаков, а того, как на самом деле обстоят дела. А на самом деле — это жизнь, а жизнь — она очень сложная, и в ней множество случайных факторов, которые могут играть разную роль, иметь разный вес. Пока я не очень понимаю, как заменить человеческий мозг в этом процессе. Но, может, пока мы разговариваем, кто-то уже решает эту задачу.


Павел Банников
главный редактор проекта «Фактчек в Казахстане», член Альянса русскоязычных фактчекеров

Попытки построить ИИ, который был бы способен самостоятельно анализировать информацию, предпринимаются на протяжении многих лет, но пока успехом не увенчались, рабочей модели без участия человека нет. Однако те модели, которые основаны на машинном обучении и помогают человеку, есть и прекрасно работают.

Есть технологии, которые позволяют обнаружить в видео признаки дипфейка. Есть обученные машины, которые помогают нам проводить обратный поиск по картинкам, чтобы найти её источник. Такие же технологии есть для видео. Обычно в нашей работе используется от восьми до пятнадцати инструментов.

Главный вызов — это сам искусственный интеллект, те же дипфейки. Обычно, когда говорят о них, говорят только о видео. Но это не самая страшная проблема — видео легко анализируется. А вот дипфейки текстовые сделать гораздо проще, и они получаются настолько качественными, что порой без глубокого лингвистического анализа нереально распознать, написала текст машина или же человек. Таким образом можно в большом количестве штамповать полностью вымышленные материалы, очень напоминающие научные и публицистические статьи. Да и фотовидеодипфейки, созданные ИИ, уже практически невозможно распознать без помощи того же ИИ.

Тут непонятно, какая сторона какую обгоняет.


Коллаж: «Секрет фирмы», depositphotos.com