Umělá inteligence stojí v centru dění Facebooku, algoritmy jsou zcela nezbytné pro správné fungování sítě, či spíše pro její výdělečnost. O to důležitější jsou zprávy o AI firmy, která se snaží – nebo má snažit – bojovat proti nenávistným projevům.
Méně nebo více nenávisti?
Podle interních dokumentů, které nedávno Facebook nevykreslily zrovna v dobrém světle (odhalují totiž, že z nenávistných komentářů uživatelů síť profituje), totiž algoritmy Facebooku v boji proti nenávisti selhaly. Obzvláště tvrdě se do Facebooku opřel Wall Street Journal, a od té doby se část z jeho zpráv potvrdila.
Namátkou?
- Facebook ví, že je Instagram škodlivý, obzvláště pro mladé dívky.
- Inženýři firmy sami mají pochybnosti o tom, že jejich AI zvládne platformu „vyčistit“ od zločinu a nenávisti.
- Firma vůbec nezvládá zakročit proti drogovým kartelům a dalším zločineckým organizacím, které na síti fungují.
- Zuckerbergovo impérium z šíření nenávisti profituje, protože drží uživatele na Facebooku déle.
Informace o Instagramu a o pochybnostech o AI jsou veřejně známé a firmou potvrzené, nicméně nijak se nezdá, že by proti tomu společnost výrazněji brojila; změnu image vnímají někteří novináři jako snahou ignorovat reálnou proměnu kultury Facebooku. Jiní zase věří, že si Facebook nemůže dovolit proti nenávistným projevům nic nedělat – ani takový obr by nedokázal tlaku veřejnosti odolat.
Využíváte už ve firmě autonomní agenty postavené na bázi umělé inteligence?
Nicméně, a to je klíčové, v záplavě negativních informací o společnosti se ztrácí informace pozitivní. Guy Rosen, viceprezident „integrity“ Facebooku zveřejnil ke konci října na blogu příspěvek o tom, že množství nenávistných projevů na platformě pokleslo o 50 % během posledních tří kvartálu – a to díky lepším AI algoritmům.
Etika AI v praxi
Data jsou v tomto případě dosti jednoznačná – algoritmy skutečně zachytily podstatné množství porušených pravidel Facebooku a aktivně proti nim zakročily. Pravda, jde o příspěvky v angličtině (český Facebook, to je na úplně jiný komentář), ale i tak to poněkud narušuje jednostrannou kritiku sociální sítě, která nyní veřejné diskuzi dominuje.
Ono je to nesmírně těžké. Facebook využívají pravidelně miliardy lidí, kteří mohou volně šířit informace; je to nová, unikátní výzva, obzvláště v případě jako je tento, kdy se společnost ještě (logicky) na své popularitě snaží vydělávat peníze.
Těžké je to i z etického hlediska. Bojovat proti dezinformacím a nenávistným projevům bez toho, aby zároveň nešlo o narušení svobody projevu a podobně není zrovna primitivní.
Posoudit, kolik toho sociální síť skutečně dělá, nelze tak snadno. Od toho se ale na chvíli odpoutejme. Facebook, jednoznačně dělá spoustu chyb, a je jedno, jestli se bavíme přímo o Facebooku nebo Instagramu či jiných součástech „nové“ společnosti Meta.
Umělou inteligenci, kterou firma nasazuje, bychom však měli sledovat i z hlediska etiky AI, oblast, kterou mnohdy přehlížíme. Konec konců, ovlivňuje životy miliard, a každá úprava algoritmu mění to, jaké příspěvky, komentáře, fotografie, doporučené příspěvky, reklamy a podobně vidíme. A to už stojí za studii nebo dvě – nejen interní.
Computerworld si můžete objednat i jako klasický časopis. Je jediným odborným měsíčníkem na českém a slovenském trhu zaměreným na profesionály v oblasti informačních a komunikačních technologií (ICT). Díky silnému zázemí přináší aktuální zpravodajství, analýzy, komentáře a přehledy nejnovejších technologií dříve a na vyšší odborné úrovni, než ostatní periodika na tuzemském trhu.
Obsah Computerworldu je určen odborníkům a manažerům z firem a institucí, kteří se podílejí na rozhodovacím procesu při nákupu ICT technologií. Jednotlivá čísla si můžete objednat i v digitální podobě.
PŘEDPLATNÉ
ČLÁNKY DO MAILU