Problém dobře modifikovaných deepfake videí je, že jsou lidským okem k nerozeznání od originálního záznamu. Prozatím jsou taková videa dosti vzácná, ale s postupem technologií a zlepšováním výpočetního výkonu se naopak rychle stávají jakýmsi standardem.
Jejich využití se najde třeba ve filmovém průmyslu, kde zjednodušuje úpravu scén nebo třeba věrohodnější dabing. Jenže se samozřejmě okamžitě také staly nástrojem kybernetických zločinců.
Zločinci jsou o krok dál
Vědci a bezpečnostní specialisté aktivně pracují na tom, aby je zvládali detekovat i ve chvíli, kdy lidským okem a standardními metodami už skutečně nepůjde poznat, že jde o upravená, nereálná videa. Jejich nebezpečí se dobře projevuje třeba u předvolebních debat nebo vyjádření politiků – v případě vhodné úpravy mohou vyvolat paniku nebo udělat u voličů špatný obrázek o jednom z volebních kandidátů.
Výzkumníci se Stanfordu a UC Berkeley pracují na umělé inteligenci, která dokáže takto upravená videa detekovat. Úspěšnost je zatím na nějakých 80 %, což není skvělé, ale pro začátek a relativně malý počet vstupních dat celkem slušné.
Problémem je, že i takové řešení je jen dočasně relevantní: Budoucí spolehlivou ochranu proti deepfake videím zkrátka nemáme, a i proto jde o tolik nebezpečnou technologii.
Neuronová síť Stanfordu pracuje na principu pozorování pohybů úst a vydávání odpovídajících zvuků, hlavně na písmena jako B, M a P, která nejde říct bez sevření rtů. Něco podobného je velmi složité upravit i u kvalitních deepfake videí.
Zatím – bohužel lze nyní jen čekat, zda se podaří najít takové řešení, které upravená videa spolehlivě odhalí, nebo si zvyknout na to, že každé video, které na internetu najdeme, může být upravené. Věřit něčím slovům na videu pak bude ještě o mnoho těžší…
PŘEDPLATNÉ
ČLÁNKY DO MAILU