Twitter обяви резултатите от своето открито състезание за откриване на отклонения в своята система за изрязване на снимки.
Предизвикателството за награди стартира през юли, след като потребителите на Twitter показаха, че инструментът за автоматизирано изрязване на сайта предпочита лицата на хора с по-светъл тен пред тези с по-тъмен тен. Това повдигна някои въпроси за това как софтуерът приоритизира цвета на кожата и определени фактори пред други.
Предизвикателството имаше за цел да намери какви други грешки и отклонения може да има системата за изрязване, за да коригира проблемите.
Първото място отиде при Богдан Кулинич, чието представяне показа как филтрите за красота могат да играят на модела за оценяване на алгоритъма, който от своя страна разширява традиционните стандарти за красота. Подаването показа, че алгоритъмът предпочита млади и слаби лица със светъл или топъл тен на кожата. Kulynych спечели $3,500.
Второто място отиде при HALT AI, технологичен стартъп в Торонто, който откри, че изображенията на възрастни хора и хора с увреждания са изрязани от снимки. На отбора бяха дадени $2 000 за второ място.
Третото място и $500 отиде при Роя Пакзад, основател на Taraaz Research, която откри, че алгоритъмът предпочита изрязването на латинските надписи пред арабските, което може да навреди на езиковото разнообразие.
Подробните резултати бяха представени на DEF CON 29 от Rumman Chowdhury, директор на META екипа на Twitter. Екипът на META изучава неволните проблеми в алгоритмите и отстранява всякакъв вид полови и расови пристрастия, които такива системи могат да имат.
Данните, получени от това състезание, ще бъдат използвани за облекчаване на грешки и отклонения в алгоритъма за изрязване и ще помогнат за осигуряването на по-приобщаваща среда.
