Украинец доказал предвзятость Twitter к темнокожим и получил $3500
Украинец Богдан Кулинич получил $3500 от Twitter в качестве награды в конкурсе на поиск ошибок. Аспирант Федеральной политехнической школы Лозанны сгенерировал несколько лиц, которые отличались лишь одним параметром и последовательно проверил на них работу алгоритма соцсети. Кулинич доказал предвзятость Twitter: оказалось, что программа отдаёт предпочтение стройным и молодым людям со светлым цветом кожи.
Алгоритм Twitter, который автоматически подгоняет большие изображения под размер окна превью, работает в соцсети с 2018 года. Впервые его обвинили в неосознанном расизме ещё в сентябре 2020 года. Колин Медленд из Канады заметил странность, когда выложил серию фото с темнокожим коллегой. Алгоритм предпочёл вынести в превью лицо Колина, оставив второго человека за кадром.
Другие пользователи соцсети поддержали это наблюдение. Алгоритм отредактировал фотографии сенатора США Митча Макконнелла и экс-президента страны Барака Обамы, обрезав изображение так, чтобы оставить только светлокожее лицо. И даже на фотографиях собак он предпочёл более светлых животных.
Представители Twitter принесли извинения и заверили, что проведут дополнительный анализ, который проверит алгоритм на предвзятость. В мае 2021 года специалисты соцсети завершили изучение и подтвердили, что предвзятость есть. Алгоритм выбирает светлокожих людей вместо темнокожих и отдаёт предпочтения мужчинам, а не женщинам.
Эксперты назвали процент предвзятости «незначительным», но решили дополнительно объявить Bug Bounty — открытый конкурс на проверку ошибок в алгоритме. Победителем этого конкурса и стал Богдан Кулинич.
С помощью искусственного интеллекта Кулинич сгенерировал десятки лиц и проверил их в Twitter. Так он доказал, что алгоритм предпочитает выбирать на превью мужчин. «Худых, молодых, со светлым цветом кожи и мягкой ее текстурой, а также со стереотипно женственными чертами лица».
Кулинич подчеркнул, что испытывает смешанные чувства из-за своей победы в поиске багов. «Ущерб, причиняемый алгоритмами, — это не просто "баг". Важно отметить, что многие вредные технологии стали вредными не из-за случайности или неумышленных ошибок, а скорее по умолчанию. Это происходит из-за желания максимизировать свою прибыль и затраты других», — пояснил мужчина.
В июле Павел Дуров обвинил Twitter и Facebook в жёсткой цензуре. Он заявил, что соцсети зря блокируют информацию с фейками о коронавирусе. По мнению основателя Telegram, блокировка ложной информации ставит под угрозу доверие пользователей к социальной сети. Они сами должны решать, чему верить.
Фото: GitHub/Богдан Кулинич
Технологии будущего, которое уже наступило, — в нашем инстаграме.