Стали известны основные риски внедрения искусственного интеллекта в России

19 декабря 2019 в 11:37

У использования искусственного интеллекта (ИИ) в России обнаружили ряд серьёзных рисков. О них сообщил зампред Центробанка Василий Поздышев в интервью РИА «Новости». Прежде всего речь идёт о защите персональных данных, которые оказываются уязвимыми в случае взлома нейронной сети.

«Даже самую сложную нейросеть можно взломать», — заявил Поздышев. Примером этого служит ситуация, когда нейросети неверно распознают картинку из-за добавления элементов. Зампред ЦБ описал, что нейросети, решающие задачу биометрической идентификации, способны отличить одного человека от другого, но, если прилепить на лицо пластырь со словом STOP, ИИ переведёт эту картинку из категории «люди» в категорию «дорожные знаки».

Вторым серьёзным риском является способность нейросетей создавать фейковую реальность — например, генерировать несуществующие лица с полным набором индивидуальных и также несуществующих биометрических данных. По мнению Поздышева, таким же образом можно создавать несуществующие юрлица и транзакции, чем могут воспользоваться злоумышленники.

«Третий риск связан с тем, что применение ИИ усложняет вопросы защиты персональных данных», — указал зампред ЦБ. Он рассказал, что при создании обучающей выборки, на которой тренируется ИИ, используются лица и данные реальных людей. А значит, появляется риск доступа к этим данным.

Поздышев подчеркнул, что, как регулятор, он обязан думать о рисках. По его словам, преимущества для общества от использования новых технологий «абсолютно понятны», но бенефитов без риска не бывает. «Эта ложка дёгтя может оказаться вовсе не ложкой и вовсе не дёгтя», — подытожил он.

В октябре президент подписал указ об утверждении национальной «Стратегии развития искусственного интеллекта», которая будет действовать в рамках нацпроекта «Цифровая экономика». Она сосредоточится на создании благоприятного правового режима для развития технологий и выработке этики взаимодействия человека и ИИ.

Как зарождался и развивался Рунет, чем интересны работающие в нём компании и как государство училось закручивать гайки в совершенно новой отрасли — читайте в нашем спецпроекте «Суверенный ru.net».

Поделитесь историей своего бизнеса или расскажите читателям о вашем стартапе
Ещё по теме