Organizátoři nedávné soutěže Cyber Grand Challenge, za níž stojí agentura Darpa (Defense Advanced Research Projects Agency) ukázali, jaké možnosti umělá inteligence může přinést. Sedm superpočítačů zde spolu bojovalo, aby dokázaly, že stroje skutečně dokážou najít a opravit zranitelnosti softwaru.
Tuto technologii lze teoreticky použít ke zdokonalení jakéhokoli kódu odstraněním zneužitelných nedostatků. Co když ale někdo použije tuto sílu ke zlým účelům?
Budoucnost kybernetické obrany může také připravit cestu pro novou éru hackingu.
Možná nebezpečí
Kyberzločinci by například mohli používat tyto funkce k vyhledání zatím neznámých zranitelností v softwaru a poté je zneužít ke zlým účelům.
Na rozdíl od člověka to však umělá inteligence dokáže udělat s účinností stroje. Hacky, které bylo v minulosti časově velmi náročné vyvinout, se mohou v tomto hororovém scénáři stát doslova levnou komoditou.
Je to riziko, které si odborníci na kybernetické zabezpečení dobře uvědomují – zvláště když technické obory už vyvíjejí auta, která se sama řídí, pokročilejší roboty a další formy automatizace.
„Technologie je vždy děsivá,“ uvádí David Melski, viceprezident vývoje ve společnosti GrammaTech. Ta mimo jiné vytvořila superpočítač, který se účastnil zmíněné soutěže Cyber Grand Challenge.
Nyní zvažují použití této technologie, tak aby pomohli dodavatelům eliminovat zranitelnosti v zařízeních internetu věcí a v internetových prohlížečích.
„Vyhledávání zranitelností je dvousečný meč,“ připomíná Melski a dodává: „Stále více se toho automatizuje.“
Pro bezpečnostní experty tak není těžké si představit potenciální temnou stránku, kdy umělá inteligence vytváří a řídí mocné kybernetické zbraně. Melski připomněl případ Stuxnetu, škodlivého počítačového červa navrženého k narušení íránského jaderného programu.
„Když se zamyslíte nad tím, že by se něco jako Stuxnet mohlo zautomatizovat, je to alarmující,“ vysvětluje Melski.
Využití potenciálu
„Nechci nikomu vnucovat nějaké představy, ale technologie řízené umělou inteligencí, procházející internet a hledající zranitelnosti, by mohly být budoucí realitou,“ tvrdí Tomer Weingarten, výkonný ředitel bezpečnostní firmy SentinelOne.
Takové zefektivnění počítačové kyberkriminality přitom už nastalo. Kupci mohou na černém trhu zaplatit za službu „najmutí hackera“, která má vybroušené webové rozhraní a snadno pochopitelné příkazy, aby zahájili kybernetický zločin, jako je například infikování počítačů ransomwarem.
Weingarten uvedl, že tyto služby nájemného hackování budou zanedlouho obsahovat technologie umělé inteligence, která dokáže navrhnout celé útočné strategie, zahájit je a vypočítat související poplatky.
„Lidští útočníci si potom budou moci užívat plodů této pracovní síly,“ dodává Weingarten.
Pojem umělá inteligence je však v tomto případě poněkud zkreslený. Všechny technologické společnosti o něm mluví, ale žádná firma zatím nevytvořila skutečnou umělou inteligenci.
Průmysl totiž zatím představil jen technologie, které dokážou hrát hry lépe než člověk, fungovat jako digitální asistentky, a dokonce diagnostikovat vzácná onemocnění.
Kybernetické firmy využívají podmnožinu umělé inteligence nazvanou strojové učení k zastavení malwaru.
To zahrnuje vytváření matematických modelů založených na vzorcích malwaru, které dokážou posoudit, zda jsou určité aktivity v počítači normální, nebo nikoli.
„Nakonec můžete získat statistickou pravděpodobnost, zda je konkrétní soubor dobrý, nebo špatný,“ vysvětluje Jon Miller, ředitel výzkumu bezpečnostní firmy Cylance. Více než 99 procent času tak strojové učení pracuje na detekci malwaru, tvrdí Miller.
„Neustále přidáváme do našeho modelu nová data,“ vysvětluje Miller. „Čím více dat máte, tím přesnější můžete získat výsledky.“
Dosavadní problémy
Nevýhodou je, že používání strojového učení může být drahé. „Utrácíme půl milionu dolarů měsíčně za počítačové modely,“ tvrdí Miller. Tyto peníze platíme jen za pronájem služeb cloud computingu od Amazonu, abychom dokázali modely spouštět.
Každý, kdo se pokusí použít technologie umělé inteligence k nekalým účelům, bude čelit při realizaci stejné překážce. Kromě toho budou také potřebovat vynikající odborníky pro rozvoj programové části.
Časem však náklady za výpočetní výkon nevyhnutelně klesnou, připomíná Miller. Den, kdy hackeři začnou používat umělou inteligenci, tedy může být ještě daleko.
„Proč se to ještě nestalo?Není to zatím potřeba,“ vysvětluje Miller. „Chcete-li někoho hacknout, existuje všude již dostatek známých zranitelností.“
V současné době nastává mnoho průlomů pomocí phishingového e-mailu s malwarem zaslaného obětem. V jiných případech oběti zase zabezpečily své přihlašovací údaje slabými hesly nebo zapomněly zaktualizovat svůj software pomocí nejnovějších oprav, což z nich dělá snadnou kořist.
„Technologie umělé inteligence, jako je například strojové učení, už ukázaly svůj potenciál řešit některé tyto problémy,“ podotýká Justin Fier, ředitel pro kybernetickou inteligenci v bezpečnostní firmě Darktrace. Podle něj je jen otázkou času, než hackeři nakonec svůj arzenál příslušně zmodernizují.
To postaví firmy nabízející kybernetické zabezpečení proti hackerům s umělou inteligencí v předních liniích.
„Vypadá to, že směřujeme do světa, kde bude probíhat kybernetická válka především mezi stroji,“ dodává Fier.
Tento příspěvek vyšel v Computerworldu 4/2017. Časopis (starší čísla i předplatné těch nadcházejících) si můžete objednat na adrese našeho vydavatelství.
PŘEDPLATNÉ
ČLÁNKY DO MAILU