Алгоритмы Twitter обвинили в расизме из-за выбора белых людей на превью фото

21 сентября в 18:40

Разработчик Тони Арчиери обнаружил неоднозначную деталь в алгоритмах Twitter, которые выбирают превью для фото, выделяя область «наибольшего интереса». Нейросеть выбирает белых людей, а не чернокожих, из-за чего пользователи обвинили Twitter в расизме.

Арчиери сделал две длинных вертикальных картинки. На верх одной из них он поместил фото сенатора Митча Макконелла, вниз — экс-президента США Барака Обаму. На второй картинке разработчик поменял их местами. Однако в обоих случаях Twitter поместил на превью фото Макконелла.

Арчиери предположил, что дело в красном галстуке сенатора, и поменял местами галстуки политиков. Ничего не изменилось. Обама оказался на превью только при инверсии цветов.

Пользователи Twitter начали проводить свои эксперименты и выяснили, что соцсеть почти всегда предпочитает белых людей темнокожим. При этом так происходит и с мемами, и с персонажами «Симпсонов».

Директор по цифровым технологиям Twitter Дэнтли Дэвис пообещал проверить работу нейросети. Он заявил, что алгоритм не только распознаёт лица, но и учитывает цвет фона. Дэвис приложил две фотографии темнокожего и белого человека в одинаковых костюмах, в итоге на превью появился первый.

В итоге представитель Twitter Лиз Келли заявила, что в системе нейросети нет предвзятости по признаку расы или пола. Однако компания продолжит изучение алгоритма и откроет его исходный код, пообещала Келли.

Фото: Pixabay, Pixabay License

У «Секрета фирмы» есть канал в Telegram. Подписывайтесь!

Поделитесь историей своего бизнеса или расскажите читателям о вашем стартапе