Odborníci varují před zneužitím technologie na rozpoznávání obličeje

Američtí politici vyjádřili obavy nad přesností a stále se rozšiřujícím využitím technologie na rozpoznávání obličeje. Jejím vývojem se zabývají mimo jiné giganti Google, Amazon, Microsoft i Facebook a používána je čím dál tím víc například policií.

Na možná bezpečnostní rizika přitom už dřív upozornili obhájci lidských práv. Američtí zákonodárci proto v současnosti připravují návrh zákona, který by použití technologií na rozpoznávání obličeje reguloval.

Před jejich používáním varují také technologičtí experti, kteří upozorňují na rizika spjatá s databázemi dat, které spravují vlády i soukromé společnosti, píše BBC.

„Myslím, že je potřeba rozvoj této technologie zbrzdit, aby se jí ostatní stihli přizpůsobit,“ vypověděla v americkém Kongresu Meredith Whittakerová, z institutu pro výzkum umělé inteligence, spadajícího pod Univerzitu v New Yorku. Dle ní je nezbytné nastavení pravidel, z nichž by bylo jasné například to, v jaké situaci mohou být „obličejová data“ sbírána. Ve Spojených státech v současnosti stačí, když má člověk možnost kameru vidět; automaticky se pak bere, že se snímáním své tváře souhlasí.

Podle Whittakerové by se mělo zamezit tomu, aby v implementaci technologie zvítězil korporátní zájem, a soukromé společnosti technologii do svých systémů implementovaly svévolně. Způsob, jakým společnosti software na rozpoznávání obličeje vyvíjejí, přitom pracuje s daty sesbíranými kamerovými systémy na veřejných prostranstvích, ale i s fotografiemi, které lidé sdílejí na sociálních sítích. A uživatelé jim často nevědomky vycházejí vstříc, například využíváním nejrůznějších fotografických filtrů, které dokážou zvýraznit detaily tvář.

Další typ obav se týká možného zneužití technologie autoritářskými režimy, které by s ní mohly monitorovat své občany. Příkladem může být Čína, která stále rozšiřuje infrastrukturu svého kamerového systému. S implementací technologie rozpoznávání tváří by jím mohlo být snazší například sledovat pohyb konkrétních osob.

Například policie si ale technologii chválí. Pomáhá k dopadení pachatelů trestných činů i k nalezení ztracených dětí. Ačkoliv nedostatky v algoritmech mnohdy vedou i k chybné identifikaci a k falešným obviněním – dotyční se přitom vůbec nedozví, že obviněni byli na základě technologie rozpoznávání obličeje.

Nedávné jednání dolní komory amerického Kongresu bylo na dané téma už třetím za uplynulý rok.