AI Facebooku bojuje proti nenávisti. Opravdu?

Umělá inteligence stojí v centru dění Facebooku, algoritmy jsou zcela nezbytné pro správné fungování sítě, či spíše pro její výdělečnost. O to důležitější jsou zprávy o AI firmy, která se snaží – nebo má snažit – bojovat proti nenávistným projevům.

Méně nebo více nenávisti?

Podle interních dokumentů, které nedávno Facebook nevykreslily zrovna v dobrém světle (odhalují totiž, že z nenávistných komentářů uživatelů síť profituje), totiž algoritmy Facebooku v boji proti nenávisti selhaly. Obzvláště tvrdě se do Facebooku opřel Wall Street Journal, a od té doby se část z jeho zpráv potvrdila.

Namátkou?

• Facebook ví, že je Instagram škodlivý, obzvláště pro mladé dívky.
• Inženýři firmy sami mají pochybnosti o tom, že jejich AI zvládne platformu „vyčistit“ od zločinu a nenávisti.
• Firma vůbec nezvládá zakročit proti drogovým kartelům a dalším zločineckým organizacím, které na síti fungují.
• Zuckerbergovo impérium z šíření nenávisti profituje, protože drží uživatele na Facebooku déle.

Informace o Instagramu a o pochybnostech o AI jsou veřejně známé a firmou potvrzené, nicméně nijak se nezdá, že by proti tomu společnost výrazněji brojila; změnu image vnímají někteří novináři jako snahou ignorovat reálnou proměnu kultury Facebooku. Jiní zase věří, že si Facebook nemůže dovolit proti nenávistným projevům nic nedělat – ani takový obr by nedokázal tlaku veřejnosti odolat.

Nicméně, a to je klíčové, v záplavě negativních informací o společnosti se ztrácí informace pozitivní. Guy Rosen, viceprezident „integrity“ Facebooku zveřejnil ke konci října na blogu příspěvek o tom, že množství nenávistných projevů na platformě pokleslo o 50 % během posledních tří kvartálu – a to díky lepším AI algoritmům.

Etika AI v praxi

Data jsou v tomto případě dosti jednoznačná – algoritmy skutečně zachytily podstatné množství porušených pravidel Facebooku a aktivně proti nim zakročily. Pravda, jde o příspěvky v angličtině (český Facebook, to je na úplně jiný komentář), ale i tak to poněkud narušuje jednostrannou kritiku sociální sítě, která nyní veřejné diskuzi dominuje.

Ono je to nesmírně těžké. Facebook využívají pravidelně miliardy lidí, kteří mohou volně šířit informace; je to nová, unikátní výzva, obzvláště v případě jako je tento, kdy se společnost ještě (logicky) na své popularitě snaží vydělávat peníze.

Těžké je to i z etického hlediska. Bojovat proti dezinformacím a nenávistným projevům bez toho, aby zároveň nešlo o narušení svobody projevu a podobně není zrovna primitivní.

Posoudit, kolik toho sociální síť skutečně dělá, nelze tak snadno. Od toho se ale na chvíli odpoutejme. Facebook, jednoznačně dělá spoustu chyb, a je jedno, jestli se bavíme přímo o Facebooku nebo Instagramu či jiných součástech „nové“ společnosti Meta.

Umělou inteligenci, kterou firma nasazuje, bychom však měli sledovat i z hlediska etiky AI, oblast, kterou mnohdy přehlížíme. Konec konců, ovlivňuje životy miliard, a každá úprava algoritmu mění to, jaké příspěvky, komentáře, fotografie, doporučené příspěvky, reklamy a podobně vidíme. A to už stojí za studii nebo dvě – nejen interní.