Facebook nasazuje proti teroristům nejtěžší zbraně

Facebook rozvedl, jak chce ze sítě odstraňovat „teroristický obsah“. S tímto krokem přichází po nátlaku vlád, které apelují na firmy, aby potlačovaly teroristickou propagandu.

Facebook nasazuje proti teroristům nejtěžší zbraně


Ze série příspěvků několika lidí z vedení a také z materiálu zveřejněného BBC vyplývá, že Facebook chce být víc transparentní v tom, jak vlastně funguje. K detekování škodlivých příspěvků a falešných účtů v současnosti používá hlavně umělou inteligenci, ale také stovky pracovníků.

„Obsah spojený s terorismem chceme zachytit dřív, než si ho všimnou uživatelé,“ uvádí Facebook.

Schopnost Islámského státu využívat technologie k radikalizaci a rekrutování představuje pro velké technologické společnosti, jako je Facebook, nemalou výzvu. Čelí totiž kritice, že právě jejich služby jsou pro teroristy platformou k šíření extremistických ideologií, potažmo násilí. V uplynulých měsících tak vlády na tyto firmy tlačí, aby byly daleko angažovanější, na politické úrovni se současně čím dál hlasitěji hovoří o možostech regulace a třeba i případném pokutování firem, pokud by nebyly schopné škodlivý obsah eliminovat.

Aktuálním výsledkem je například dohoda britské premiérky Mayové a francouzského prezidenta Macrona o společném boji proti terorismu, mimo jiné právě na internetu...

„Chceme být v těchto otázkách otevření, aby si teroristické organizace uvědomily, že proti nim bude Facebook tvrdě zasahovat,“ uvedla v rozhovoru pro BBC Monika Bickertová, ředitelka vnější komunikace Facebooku. Britská vláda kritizovala například to, že společnosti jsou málo proaktivní a že v nahlašování škodlivého obsahu spoléhají na své uživatele.

V této činnosti má v budoucnu pomoci i nová technologie pracující mimo jiné s párováním fotek – snadno tak bude schopna odhalit fotoobsah už dříve označený jako závadný. Facebook chce také naučit AI ropoznávat teroristický a propagandistický obsah v textu a zároveň rozplétat vazby mezi nepřípustnými účty, jakož i zamezování zakládání nových účtů těm, jimž byly už v minulosti zrušeny.

„Teroristická online hrozba se vyvíjí a my se musíme vyvíjet stejně tak. Naše řešení musí být velice dynamická,“ říká Bickertová. Jednou ze zásadních výzev, se kterou se bude muset Facebook v tomto boji popasovat, přitom představuje obsah související s terorismem, ovšem nikoliv podporující jej.

„Hlavní je kontext.“

V této souvislosti Facebook přiznává, že jeho algoritmy ještě nejsou tak spolehlivé jako skuteční lidé, které kontextu rozumí a dokážou tak mezi příspěvky rozlišovat. Speciálně „boji s terorismem“ se však prý ve firmě aktuálně věnuje 150 lidí, od akademických expertů, přes bývalé prokurátory či analytiky, až po techniky. Další 3000 lidí chce firma v nejbližší době najmout. „Děláme, co je v našich silách a chceme, aby to bylo vidět.“

 

Úvodní foto: Fotolia © peshkova










Komentáře