Алгоритмы Twitter обвинили в расизме из-за выбора белых людей на превью фото
Разработчик Тони Арчиери обнаружил неоднозначную деталь в алгоритмах Twitter, которые выбирают превью для фото, выделяя область «наибольшего интереса». Нейросеть выбирает белых людей, а не чернокожих, из-за чего пользователи обвинили Twitter в расизме.
Арчиери сделал две длинных вертикальных картинки. На верх одной из них он поместил фото сенатора Митча Макконелла, вниз — экс-президента США Барака Обаму. На второй картинке разработчик поменял их местами. Однако в обоих случаях Twitter поместил на превью фото Макконелла.
Trying a horrible experiment...
— Tony “Abolish (Pol)ICE” Arcieri 🦀 (@bascule) September 19, 2020
Which will the Twitter algorithm pick: Mitch McConnell or Barack Obama? pic.twitter.com/bR1GRyCkia
Арчиери предположил, что дело в красном галстуке сенатора, и поменял местами галстуки политиков. Ничего не изменилось. Обама оказался на превью только при инверсии цветов.
"It's the red tie! Clearly the algorithm has a preference for red ties!"
— Tony “Abolish (Pol)ICE” Arcieri 🦀 (@bascule) September 19, 2020
Well let's see... pic.twitter.com/l7qySd5sRW
Let's try inverting the colors... (h/t @KnabeWolf) pic.twitter.com/5hW4owmej2
— Tony “Abolish (Pol)ICE” Arcieri 🦀 (@bascule) September 19, 2020
Пользователи Twitter начали проводить свои эксперименты и выяснили, что соцсеть почти всегда предпочитает белых людей темнокожим. При этом так происходит и с мемами, и с персонажами «Симпсонов».
I wonder if Twitter does this to fictional characters too.
— Jordan Simonovski (@_jsimonovski) September 20, 2020
Lenny Carl pic.twitter.com/fmJMWkkYEf
Директор по цифровым технологиям Twitter Дэнтли Дэвис пообещал проверить работу нейросети. Он заявил, что алгоритм не только распознаёт лица, но и учитывает цвет фона. Дэвис приложил две фотографии темнокожего и белого человека в одинаковых костюмах, в итоге на превью появился первый.
Here's another example of what I've experimented with. It's not a scientific test as it's an isolated example, but it points to some variables that we need to look into. Both men now have the same suits and I covered their hands. We're still investigating the NN. pic.twitter.com/06BhFgDkyA
— Dantley 🔥✊🏾💙 (@dantley) September 20, 2020
В итоге представитель Twitter Лиз Келли заявила, что в системе нейросети нет предвзятости по признаку расы или пола. Однако компания продолжит изучение алгоритма и откроет его исходный код, пообещала Келли.
Фото: Pixabay, Pixabay License
У «Секрета фирмы» есть канал в Telegram. Подписывайтесь!