Хакерская нейросеть WormGPT: стоит ли её бояться и как защититься от угроз
Киберэксперт Белов: двухфакторная аутентификация поможет защититься от атак с WormGPT. Киберпреступники придумали WormGPT — чат-бот, у которого, в отличие от ChatGPT, нет никаких ограничений. Руководитель группы исследований безопасности банковских систем Positive Technologies Сергей Белов рассказал «Секрету», насколько опасен хакерский чат-бот и как не стать жертвой его атаки.
Что такое WormGPT
Чат-бот WormGPT, как и ChatGPT и Google Bard, создан на основе публично доступной языковой модели GPT-J. Только в отличие от своих собратьев по искусственному разуму у него нет никаких «этических границ и ограничений». То есть он запросто напишет для пользователя вредоносную программу или даст рекомендации, как осуществить хакерскую атаку.
Впервые хакерский чат-бот представили в марте 2023 года, всего через несколько месяцев после появления в открытом доступе ChatGPT (он стал доступен в ноябре 2022-го). А уже в июне он был официально запущен. Доступ к чат-боту сейчас может купить любой пользователь даркнета, хотя и недёшево — за €60 в месяц или €550 в год (6100 рублей или 55 800 рублей соответственно).
По словам Белова, хакеры стал пользоваться языковыми моделями почти сразу после выхода ChatGPT, так что это не совсем новая угроза. WormGPT, в отличие от его «честных» аналогов, дообучили на специфических данных, связанных в том числе с вредоносным ПО.
А ещё в нём нет каких-то ограничений или фильтров, связанных с безопасностью. Так что он без проблем может генерировать неприемлемый контент, который явно будет использован во вред, вроде заведомо вредоносного кода или фишинговых писем, пояснил эксперт.
Как защититься от WormGPT
Защита от атак, основанных на использовании инструментов, таких как WormGPT, требует комплексного подхода, заявил Белов.
Первое — это соблюдать базовые правила безопасности, которые почти не менялись как минимум последние 10 лет:
- обучать персонал и повышать осведомлённость об угрозах в области кибербезопасности,
- следить за новыми угрозами,
- использовать специализированное ПО для защиты систем,
- регулярно обновлять используемое ПО и создавать резервные копии данных,
- повсеместно использовать двухфакторную аутентификацию (предпочтительно с использованием аппаратных ключей).
«Во-вторых, если говорить о фишинговых рассылках с использованием GPT-моделей, то для защиты от подобных атак используются те же самые модели, но уже с целью обнаружения фишинговых писем и ресурсов, также используются инструменты, позволяющие определить, что текст был создан GPT-моделью, что может помочь в борьбе с подобными угрозами», — посоветовал специалист.
Ждать ли теперь разгула киберпреступности
Киберпреступники действительно всё чаще пользуются искусственным интеллектом, признал Белов. По его мнению, в ближайшее время рост, скорее всего, заметно ускорится.
«Однако в то же время ИИ активно используется и в области кибербезопасности для борьбы с этими угрозами, т. е. в ближайшем будущем мы, скорее всего, будем наблюдать очередной виток борьбы, которая велась между разработчиками антивирусного ПО и разработчиками вредоносного ПО. В современном мире она получит свое развитие в виде противостояния между инструментами на основе ИИ, разработанными с диаметрально противоположными целями», — предположил эксперт в разговоре с «Секретом».
Что такое ChatGPT
ChatGPT — это языковая модель с искусственным интеллектом, которая может генерировать тексты и вести общение почти как живой человек. Чат-бот может дать совет, поможет познакомиться с девушкой или просто поболтает с вами.
Несмотря на наличие этических ограничений, «честную» нейросеть тоже вовсю используют для обмана разной степени тяжести. Например, кто-то с её помощью пишет диплом, а другие — вредоносные письма. Так что в некоторых странах чат-бот уже запрещают.