Twitterovská AI diskriminovala černochy před bělochy a muže před ženami

Sociální síť přiznala nedostatky algoritmu pro automatický ořez fotografií.

Twitterovská AI diskriminovala černochy před bělochy a muže před ženami


Funkce automatického ořezávání fotografií na Twitteru byla diskriminační. Preferovala bělochy před černochy a ženy před muži. Společnost to přiznala několik měsíců poté, co na možné nedostatky algoritmu upozornili uživatelé, s tím, že už je zčásti napravila.

Starý systém fungoval tak, že se velké fotky snažil vycentrovat s důrazem na tvář či jinou zajímavou část. Ne vždy se to ale povedlo ideálně. Na problém poukázal loni v září jeden z uživatelů, který na Twitter nahrál fotografii sebe - bělocha - a kolegy - černocha.

Bez ohledu na to, která fotografie byla nahrána jako první, Twitter vždy vybral jako náhledovou fotku s bělochem. Zjištění později potvrdily též pokusy jiných uživatelů. Jestliže byli běloch s černochem na jedné fotce, algoritmus téměř vždy do výřezu preferoval bělošskou tvář. Sociální síť reagovala rychle – funkčnost algoritmu prý testovala v rámci svého systému strojového učení, který ale, jak se zdá, nebyl dokonalý.

Z dalších výsledků testování, zveřejněných čerstvě Twitterem, vyplynulo mimo jiné to, že ženy byly preferovány v poměru 54 ku 46 oproti mužům nebo že běloši byli preferováni v poměru 52 ku 48 oproti černochům bez ohledu na pohlaví. Podezření, že fotografie ženských postav systém častěji ořezává od tváře až po hrudník, testování nepotvrdilo.

„Jeden z našich závěrů je ten, že ne vše na Twitteru je vhodné pro náš algoritmus, tedy že o tom, jak oříznout fotografii, nejlépe rozhodnou sami uživatelé,“ uvedla za platformu Rumman Chowduryová, ředitelka jejího softwarového inženýrství. Mobilní verze Twitteru tak už nově automaticky neořezává formát 4:3, přičemž brzy by tato změna měla začít platit plošně, s tím, že další vylepšení související s prezentací fotografií sociální síť ještě chystá. 

Úvodní foto: © bluedarkat - Fotolia.com










Komentáře