Falešné fotografie jsou k nerozeznání od pravých: AI ukazuje své schopnosti

17. 2. 2019

Sdílet

 Autor: Fotolia
Schopnosti umělé inteligence ještě zdaleka nejsou perfektní, nicméně vývoj pokračuje bleskovým tempem. Jak rychle si mnohdy ani neuvědomujeme.

Schopnosti umělé inteligence ještě zdaleka nejsou perfektní, nicméně vývoj pokračuje bleskovým tempem. Jak rychle si mnohdy ani neuvědomujeme.

Skvělým příkladem je web ThisPersonDoesNotExist.com, vytvořený Philipem Wangem, softwarovým inženýrem Uberu. Využívá výzkum z minulého roku o generování obličejů, který publikovala společnost Nvidia, a vytváří tak nekonečnou sadu falešných obličejů – stačí jen obnovovat web a uvidíte tisíce – při dostatku trpělivosti klidně miliony – obličejů, které sice vypadají jako skutečné, ale nejsou.

Na některých obličejích svou znatelné nedostatky – chybějící část brýlí, zvláštní prohlubně v kůži a podobně, ale obecně jsou výsledky dosti přesvědčivé.

Algoritmus byl vytrénován pomocí obřího datasetu skutečných fotografií a následně k vytváření nových obličejů používá neuronovou síť druhu GAN (generative adversarial network).

Philip Wang o tom píše podrobněji na svém Facebooku.

bitcoin_skoleni

Původní algoritmus Nvidie, StyleGAN, byl nedávno uvolněn jako open source a ukázalo se, že je nadmíru flexibilní – přestože tato verze slouží primárně ke generování lidských tvář, zvládne, teoreticky, generovat prakticky cokoliv, pokud bude mít dostatek zdrojového materiálu. Už nyní výzkumníci experimentují s anime postavičkami, fonty a také s grafitti.

Neuronové sítě typu GAN však mají i své nevýhody, jak například ukazují deepfakes: videa či fotografie pornografického původu, na něž je uměle a dynamicky připevněn například obličej celebrity nebo osoby, jíž hodlá někdo vydírat. Výsledek je totiž nadmíru věrohodný, a tudíž značně nebezpečný.