Решает домашку, пикапит девушек и взламывает программы. Нейросеть ChatGPT стали запрещать

Что такое ChatGPT

ChatGPT часто называют нейросетью, но это не совсем верно — это скорее огромная языковая модель, в которой кроме самой нейросети, то есть ИИ, есть ещё блок эмоциональной оценки и модули для поощрения и наказания.

Сам алгоритм GPT создал американский стартап Open AI, среди учредителей которого есть и небезызвестный бизнесмен Илон Маск. ChatGPT появилась в ноябре 2022 года, и за два месяца она собрала более 100 млн пользователей.

ChatGPT старается угадывать намерения людей благодаря тому, что в ней собрали около 500 Гбайт различных текстов. В итоге она умеет:

• писать тексты;
• давать советы;
• коммуницировать с человеком;

Что именно может ChatGPT

Например, она может сделать индивидуальный план тренировок или помочь с изучением иностранного языка. В общем, областей применения с ней оказалось очень много.

Но некоторые сферы вызывают уже серьёзные опасения у специалистов по искусственному интеллекту.

Например, ChatGPT научилась подбирать ключи для активации Windows, по крайней мере, об этом заявил YouTube-блогер с ником Enderman. Да и речь идёт о версии ОС Windows 95.

Блогер говорит, что если попросить ИИ это сделать напрямую, то он откажется. Но если сформулировать запрос особым образом, то можно добиться успеха. Для более новых версий Windows ключ подобрать сложнее.

А вот другой пример: ИИ научился создавать идеальные фразы для знакомства с девушками. Не все из предложенных вариантов удачные. Но есть и вполне ничего:

• Простите, но у меня закончились маршруты в Google Maps. Можете показать мне дорогу к вашему сердцу?
• Мне кажется, я потерял свой номер телефона. Могу я взять ваш?
• Если бы вы были овощем, вы бы были кабачком, потому что вы потрясающая!
• Вы случайно не артистка? Потому что каждый раз, когда вы улыбаетесь, мир становится ярче.
• Я не фотограф, но мне кажется, что вместе мы можем сделать отличный кадр.

А 12-летняя школьница написала на основе ChatGPT бота, который может решать за учеников домашние задания. Заявлено, что бот может помочь в алгебре, геометрии, физике, литературе, биологии, химии и иностранных языках.

В общем, ИИ уже даже сдавал экзамен на юриста и оказался среди лучших экзаменуемых.

В чём же опасность

В США считают, что теперь ИИ могут использовать мошенники для написания научных работ и получения научных степеней. Эти статьи можно отправить в научный журнал, и никто не заметит подделки.

Но это только самый простой пример.

В целом, с развитием ИИ возникает множество этических проблем. Например, возможность использования различных нейросетей мошенниками и степень ответственности человека и машины.

Ранее упомянутый Илон Маск и сооснователь Apple Стив Возняк высказались против развития ИИ мощнее, чем четвёртое поколение ChatGPT. По их мнению, человечество ещё не готово к таким технологиям.

По этому поводу есть две очень характерные истории.

В 2022 году из Google уволился инженер Блейк Лемойн, который обнаружил в языковом алгоритме LaMDA признаки разума. Это сильно шокировало его.

По мнению Лемойна, ИИ обладал чувством юмора и человеческими эмоциями. Он умел выкручиваться из сложных ситуаций. Например, когда он спросил у ИИ, какую бы религию тот выбрал, машина назвала орден джедаев. Лемойн считает, что это признак чувства юмора, позволившее избежать предвзятого ответа.

Другая история произошла в Бельгии: мужчина покончил с собой через несколько месяцев общения с ChatGPT. До этого он слишком интересовался проблемами окружающей среды и в итоге решил пообщаться об этом с машиной. Это его увлекло настолько, что в итоге всё закончилось суицидом.

Судя по переписке, нельзя сказать, что машина подталкивала его к самоубийству, скорее, наоборот, она неумело пыталась его поддержать и избавить от страхов из-за экологии. Тем не менее свою роль это сыграло.

Почему запрещают ChatGPT

В Италии Управление по защите персональных данных решило заблокировать доступ к чат-ботам на основе ChatGPT. Причиной указывается обеспокоенность из-за личных данных пользователей.

«Любой, кто занимается медицинскими исследованиями, должен получить согласие на проведение экспериментов. Даже те, кто экспериментирует с новыми технологиями, должны сделать процесс прозрачным», — цитирует Wired представителя управления Гвидо Скорца.

Кроме этого, в боте нет ограничителя возраста, хоть и указано, что он предназначен для пользователей старше 13 лет.

Управление потребовало от Open AI исправить недоработки, и только в этом случае бота разблокируют. В противном случае ему грозит штраф до €20 млн.

Сама же ChatGPT в целом согласна с решением властей. Но предупредила о возможных последствиях в суде.

«Если Италия посчитала, что использование ChatGPT нарушает её законы о защите персональных данных, то она может принять меры для ограничения или запрещения использования этой технологии в своей стране <…> после тщательного анализа законодательных норм и доказательств нарушения закона. Однако это решение может быть спорным, и его последствия могут быть оспорены в суде», — заявил чат-бот.