Алгоритмы Twitter уличили в предвзятости. Ранее компания отключила автоматическую обрезку фотографий после обнаружения пользователями предпочтения системой лиц белых людей лица темнокожих, сообщает The Verge. А недавно проведённый конкурс по выявлению алгоритмических предпочтений подтвердил ранее сделанные выводы и позволил прийти к новым.
Выяснилось, что алгоритм кадрирования Twitter отдает предпочтение лицам «подтянутого, молодого, светлого или “тёплого” цвета с шелковистой кожей, а также со стереотипно женственными чертами лица». Также участники конкурса обнаружили, что система была предвзята к людям с седыми волосами, что предполагает дискриминацию по возрасту. Кроме того, английские буквы система предпочитала арабскому шрифту.
Первое место в конкурсе занял Богдан Кулинич, аспирант EPFL, исследовательского университета в Швейцарии. Кулинич использовал программу искусственного интеллекта под названием StyleGAN2 для создания большого количества реалистичных лиц, которые он варьировал по цвету кожи, преобладанию женских и мужских черт лица и подтянутости. Затем он загрузил эти варианты в алгоритм обрезки фотографий Twitter, чтобы найти предпочитаемые системой.
Как отмечает Кулинич, алгоритмические предубеждения усиливают предубеждения в обществе, «буквально игнорируя тех, кто не соответствует предпочтениям алгоритма по массе тела, возрасту, цвету кожи».
Контекст
- Twitter объявила о заключении партнерства с новостными организациями Associated Press (AP) и Reuters. Целью сотрудничества называется расширение усилий по противодействию фейкам и продвижению достоверных новостей и информации на своей платформе.
