Bezpečnostní společnost Deeptrace objevila online celkem 14 698 tzv. deepfake videí, což je téměř dvojnásobek oproti necelým osmi tisícům zjištěným loni v prosinci. A přestože dosud převládaly obavy, že deepfake videa mohou být zneužita v politice, jak se ukazuje, většina z nich (96 %) je z kategorie pornografie – tváře původních aktérů jsou v nich nahrazeny tvářemi celebrit.
Nejčastěji amerických a britských hereček, kterým však zdatně sekundují hvězdy jihokorejské hudební scény. Ukazuje se tak, že deepfake videa představují hrozbu především v oblasti tzv. revenge porna neboli pornografie ze msty a kyberšikany.
„Jde o velice aktuální problém, který poškozuje především ženy,“ hodnotí jeden z autorů studie Henry Ajder.
Pojem deepfake se poprvé objevil v roce 2017, dva roky poté je z něj fenomén. Společnost Deeptrace zjistila, že čtyři přední pornostránky zaměřené na deepfake videa, vydělávající na reklamě, dosáhly od loňského února v součtu 134 milionů zhlédnutí těchto videí. A aplikací pro výrobu těchto videí přibývá. Jedna taková, umožňující uměle „odstranit šaty“ z fotografií žen, si účtovala 50 dolarů za odstranění watermarku z každé výsledné fotografie. Autoři aplikaci po vlně kritiky odstranili, software fungující na obdobném principu, však funguje nadále.
„Dnes už je možné vytvořit ucházející deepfake snadno. Algoritmy potřebují čím dál tím menší množství zdrojových dat,“ poznamenává Katja Begová, analytička technologické společnosti Nesta. „S ohledem na rychlý vývoj technologií je důležité, aby na něj zákonodárci dokázali reagovat. To znamená vyvinout nástroje na rozpoznávání a rozšířit mezi lidmi o dané problematice povědomí.“
Autoři studie z Deeptrace upozorňují také na služby a weby, které deepfake videa vyrábějí a prodávají. Jeden takový požadoval k vytvoření videa 250 fotografií dotčené osoby a doručení videa garantoval do dvou dnů. Cena za něj přitom byla nízká, a to 2,99 dolarů.
Vyjma zmiňované pornografie zatím nejsou evidovány žádné případy nebo jen minimum, kdy by byla deepfake videa zneužita ke skutečnému oklamání lidí za nekalým účelem. Zůstává však otázkou, jak se této potenciální hrozbě bránit.
„Virální video se dokáže dostat k milionům lidí a na přední stránky novin během pár hodin. Na následné ujištění, že je falešné, už může být pozdě,“ zamýšlí se Begová nad tím, zda technologie pro rozpoznávání deepfake videí může být řešením.
Tak či tak, zatím se zdá, že v krátkodobém horizontu budou obětmi deepfake videí spíš než vlády a korporace především jednotlivci, ve většině případů ženy. A je nepravděpodobné, že si budou moct dovolit se takovému zneužívání bránit…
PŘEDPLATNÉ
ČLÁNKY DO MAILU