01 ноября в 18:15
5 мин.

Кодекс для ИИ. В России определились, что этично в сфере искусственного интеллекта

В России приняли нормативный документ, который станет руководством для разработчиков систем искусственного интеллекта (ИИ) — Кодекс этики искусственного интеллекта (КЭСИИ). Документ подписали на Первом международном форуме «Этика искусственного интеллекта: начало доверия». Свои подписи под сводом этических норм, образующих систему нравственных правил при работе с ИИ, подписали первые двадцать компаний — лидеров в области ИИ, в том числе «Яндекс», «Сбер», МТС, «Ростелеком», Высшая школа экономики, «Росатом» и «Сколково».
Кодекс для ИИ. В России определились, что этично в сфере искусственного интеллекта

Кодекс разработали в рамках Национальной стратегии развития искусственного интеллекта в России.

Над проектом кодекса работали Альянс в сфере искусственного интеллекта совместно с Аналитическим центром при Правительстве РФ и Минэкономразвития при участии крупнейших технологических компаний России, а также экспертного сообщества.

Принципы кодекса

Документ предполагает в том числе выработку этических норм взаимодействия человека с ИИ и адаптацию законов под эти нормы.

Что провозглашает кодекс?

  • Главный приоритет развития технологий ИИ заключается в защите интересов людей, отдельных групп, каждого человека, права и свободы которого рассматриваются как наивысшая ценность.

  • Во главу угла ставятся принципы информационной безопасности, недискриминации, прозрачности и правдивости, ответственного отношения к безопасности работы с данными.

  • Технологии ИИ должны внедряться там, где это принесёт пользу людям, при этом ответственность за последствия их применения всегда лежит на человеке.

  • Информирование граждан об уровне развития технологий ИИ, о возможностях, рисках, успехах и неудачах в их применении должно быть максимально полным и достоверным.

  • Широкое внедрение ИИ без этического регулирования недопустимо и грозит дискриминацией, причинением вреда человеку, потерей приватности и контроля над ИИ, ошибками алгоритмов и применением технологий в неприемлемых целях.

О важности появления подобного кодекса в России не раз говорили и правительство, которое подчёркивало необходимость создания концепции развития регулирования отношений в сфере технологий ИИ, и робототехники, и президент РФ Владимир Путин.

При этом он задавался вопросами: «Что будет, когда техника превзойдёт человека по способности мыслить? Где предел вмешательства в человеческий организм, после которого человек перестаёт быть самим собой и превращается в какую-то иную сущность? Каковы вообще этические границы в мире, в котором возможности науки и техники становятся практически безграничными, и что это будет значить для каждого из нас, для наших потомков, причём уже ближайших потомков — для наших детей и внуков?»

Он призвал привлечь к работе над кодексом профессиональное сообщество и бизнес, чтобы документ отражал все актуальные потребности отрасли.

Заместитель председателя правительства Дмитрий Чернышенко, открывая пленарное заседание форума «Этика искусственного интеллекта: начало доверия», отметил, что России предстоит расширять собственный опыт законодательного и этического регулирования отношений, которые возникают в сферах применения ИИ.

«Правительство как исполнительный орган видит свою роль в развитии этического регулирования в сфере искусственного интеллекта и защите базовых ценностей в том же объёме, в котором они гарантируются Конституцией РФ, но уже в тех срезах, которые сейчас недостаточно отрегулированы. Мы с этим сталкиваемся в новых средах, на новых платформах», — отметил Чернышенко.

Вице-премьер добавил, что кодекс этики поможет выработать ответственный подход участников сообщества ИИ и создаст дополнительные барьеры для нарушения прав и свобод граждан.

По словам президента Infowatch Натальи Касперской, ИИ, как и любая технология, несёт в себе риски. Принятый кодекс защищает от возможных проблем.

«Кодекс — своего рода модель угроз, в которой часть из них попытались оценить и предотвратить. В документе есть запрет на финальность решений ИИ, то есть ответственность за последствие решений должна оставаться за человеком. Также прописано обязательное уведомление пользователя, если с ним общается система ИИ», — отметила Касперская.

Приверженность кодексу станет ключевым элементом социальной ответственности российских компаний, которые работают в области технологии ИИ и обязуются исповедовать принципы прозрачности, инклюзивности, ответственности, беспристрастности, надёжности, безопасности и конфиденциальности, считают эксперты. «Принятый кодекс, в разработке которого активное участие принял "Сбер", станет важным шагом в укреплении доверия граждан нашей страны к ИИ и, как следствие, в развитии всей отечественной отрасли искусственного интеллекта», — считает Александр Ведяхин, первый заместитель председателя правления Сбербанка.

В будущем документ будут обновлять и совершенствовать. «Жизнь динамична. Положения кодекса, которые закреплены в документе, могут пересматриваться в связи с новыми вызовами, которые мы сейчас не видим, но которые проявятся в будущем. Тогда документ будет отвечать современному моменту развития технологий», — заявила начальник управления президента РФ по развитию информационно-коммуникационных технологий и инфраструктуры связи Татьяна Матвеева.

Кодекс для ИИ. В России определились, что этично в сфере искусственного интеллекта

Мировая практика регулирования ИИ

Другие государства тоже осознают необходимость разработки этических ориентиров, которые позволят предотвратить ошибки в сфере ИИ. Уже более 20 стран разработали и приняли концепции развития или стратегии развития искусственного интеллекта.

Этические принципы в области ИИ трансграничны, поэтому регулирование этой сферы внутренними документами позволяет говорить о наднациональных ориентирах, считают участники форума.

В работу по выработке этических норм для ИИ включены Совет Европы, ЮНЕСКО, G20. Так, по словам вице-премьера Дмитрия Чернышенко, в 2019 году в Совете Европы создали специальный комитет по регулированию искусственного интеллекта, в котором работают и российские представители. В 2020 году ЮНЕСКО разработало международные рекомендации по этике искусственного интеллекта, и, как рассчитывают в кабмине РФ, их ратифицируют до конца 2021 года, после чего их смогут применять все страны.

Опыт российских специалистов накоплен на базе практического применения разработок последних лет. В 2018 году в России приняли Кодекс этики использования данных. Его разработали участники рынка совместно с государством и представителями общественности. Свод отраслевых стандартов профессионального и этического поведения стал инструментом саморегулирования рынка.

При этом крупнейшие российские IT-компании — «Сбер», Abbyy, «Яндекс» — утвердили принципы этики разработки и применения технологий искусственного интеллекта в своих экосистемах ещё до появления общего кодекса. Их опыт поспособствовал работе над единым документом на уровне государства, отметили на форуме.

«Опираясь на лучшие мировые практики, Россия будет занимать своё место в десятке стран, для которых этичность развития важнейших технологий 21-го века имеет государственное значение. В сфере интересов правительства защитить эти права», — спрогнозировал Чернышенко.

При этом в России, в отличие от ряда других стран, граждане достаточно благосклонно относятся к развитию искусственного интеллекта и его распространению. Последние социологические исследования показывают, что если 72% граждан США, Германии, Австралии, Канады и Великобритании не доверяют технологиям ИИ, то в России, по данным ВЦИОМа, 48% жителей придерживаются противоположной точки зрения. Фактор доверия к новому технологическому миру эксперты форума называют одним из ключевых для развития ИИ, а этические рамки крайне важны для гармоничного сосуществования человека и технологий.

Фото: предоставлено пресс-службой форума «Этика искусственного интеллекта: начало доверия».

Поделитесь историей своего бизнеса или расскажите читателям о вашем стартапе
Новости партнеров