Umělá inteligence: Splněný sen kyberbezpečnosti, nebo planá naděje?

Chcete vědět, kdo z vašich pracovníků moc nepracuje, kdo plánuje brzy odejít, anebo dokonce kdo možná také chce při svém odchodu ukrást nějaká proprietární data? Strojové učení vám to může pomoci zjistit mnohem rychleji než dosavadní oddělení lidských zdrojů, uvádí Ariel Silverstone, ředitel poradenství pro zabezpečení a soukromí, který podle svých slov viděl takové výsledky strojového učení ze základních dat posbíraných během jediného týdne.

Umělá inteligence: Splněný sen kyberbezpečnosti, nebo planá naděje?


Není však sám, kdo je o tomto přínosu přesvědčen. Zev J. Eigen, globální ředitel datových analýz v právní kanceláři Littler Mendelson, uvedl, že ačkoli je strojové učení používané v kybernetické bezpečnosti relativní novinkou, obsahuje převratný potenciál.

Amit Mital, bývalý technologický ředitel společnosti Symantec (nyní manažer společnosti KNRL Labs), při panelové diskuzi sponzorované časopisem Fortune, konané vloni v červenci, označil umělou inteligenci (strojové učení je součástí umělé inteligence) za jeden z „několika majáků naděje v této šlamastyce“, jejíž podstatou je, že kybernetická bezpečnost je v současné době v podstatě narušená.

 

Skeptici vs. optimisté

Někteří experti však o revoluční síle strojového učení až tak úplně přesvědčeni nejsou.

Například Simon Crosby, technologický ředitel společnosti Bromium, jehož nedávný webový článek nesl titulek „Strojové učení je nejnovějším nesplněným snem kybernetického zabezpečení (Machine Learning is cybersecurity’s latest pipe dream)“. Tvrdí v něm, že „pro zabezpečení neexistuje zázračný lék a že neexistuje důkaz, že by tyto nástroje reálně pomáhaly“.

Tento skepticismus je do značné míry v souladu se závěrem výzkumné společnosti Gartner, která ve své zprávě Hype Cycle 2015 (cyklus mediálního humbuku) označila strojové učení za jednu z pěti technologií, které nyní zažívají vrchol přehnaných očekávání.

Mnoho expertů však tvrdí, že ačkoli mohou souhlasit s neexistencí všeléku pro kybernetickou bezpečnost, stále to podle nich nelze charakterizovat jako zcela plané naděje.

„Strojové učení určitě není všelék,“ prohlašuje Stephan Jou, technologický ředitel společnosti Interset, „ale v průmyslu, kde vidíme obrovské ztráty na týdenní bázi i poté, co společnosti investovaly miliony dolarů do bezpečnostních technologií, je neuvěřitelně krátkozraké ho podceňovat.“

Gary King, ředitel Ústavu pro kvantitativní společenské vědy na Harvardské univerzitě, souhlasí. Strojové učení „není ani náznakem planá naděje“, prohlašuje.

„To neznamená, že zvládne dělat cokoliv bez potřeby přemýšlení. Existují věci, které pomocí něho nyní nelze dělat dobře, ale je mnohem více záležitostí, které někteří lidé budou dělat špatně, přestože jiní prostřednictvím téhož dosáhnou vynikajících výsledků,“ popisuje a dodává, že kvalifikovaní lidé by měli řídit strojové učení, a směrovat tak jeho inteligenční úsilí.

Tito lidé „by také měli získat co nejvíce pomoci pro zvýšení užitečnosti. Když se to stane, může být strojové učení velkým přínosem,“ prohlašuje King.

Ačkoli Silverstone souhlasí s tím, že „plné zajištění prevence napadení je prakticky nemožné“,  současně se domnívá, že závěr zprávy Hype Cycle společnosti Gartner je naprosto mylný. Strojové učení je spíše než přeceněné naopak „velmi vážně podceňované“, tvrdí Silverstone.

„Když máte dostatek údajů a chápete, proč tyto údaje ukazují určité trendy, můžete zlepšit správnost předpovědí na více než 90 % – možná dokonce na více než 99 %.“

To podle něj znamená, že je možné se stroje nejen zeptat „Budu napadený příští týden?“, ale také „Budu napaden příští úterý z Číny v 15 hodin?“ či dokonce „Jaký a kdy lze očekávat příští útok, odkud a od koho?“

„To lze dnes udělat s velmi vysokou přesností a domnívám se, že jsou možné nejen mnohem složitější algoritmy, ale že se ve skutečnosti již používají. Dnes můžeme dělat věci, které by pro mě byly před dvěma lety neuvěřitelné.“

 

Podobnost vs. anomálie

Crosby souhlasí, že je strojové učení „mocným nástrojem“, a uznává jeho efektivitu v případech, jako jsou vyhledávání Googlu či doporučovací stroje společností, jako jsou Amazon nebo Netflix.

Poznamenává však také, že pokusy Googlu předvídat epidemie chřipky „byly žalostně nepřesné“. Tvrdí, že zatímco je strojové učení velmi dobré při hledání podobností, „není tak dobré při hledání anomálií. Ve skutečnosti předpokládá každá diskuze o anomálním chování, že je možné popsat normální chování,“ což je podle něj velmi obtížné.

„To dává zločincům mnoho příležitostí k úkrytu i při běžné viditelnosti a dokonce příležitost vytrénovat systém, tak aby považoval škodlivou aktivitu za normální,“ vysvětluje Crosby.

Eigen však upozorňuje, že i přes existenci těchto těžkostí to neznamená, že by nemělo strojové učení žádnou přidanou hodnotu. Každý systém lze „podvést, ale měli bychom zvažovat, jak se mohou zhoršovat rizika, pokud se nepoužije strojové učení“.

Jou je ve vyjádření ještě důraznější: „Strojové učení prokázalo, že dokáže definovat to, co je normální, a následně určit anomálie,“ vysvětluje.

Souhlasí, že strojové učení nenahradí lidi, ale zvládá některé lidské činnosti – rozpoznávání vzorů a poté anomálií vůči těmto vzorům – a automatizuje je. „Strojové učení ve skutečnosti jen vezme množiny dat, najde vzory a definuje to, co je normální, a to, co je zvláštní,“ popisuje.

Uvádí, že metoda používaná útočníky k oklamání systému, aby si myslel, že je jejich aktivita normální, se nazývá „otrávení modelu“ a lze s ní bojovat používáním více modelů pro každý zdroj dat.

„To znamená, že nepřítel používající tento přístup musí získat úplnou znalost všech modelů použitých k detekci nebezpečného chování a musí současně otrávit všechny modely a zdroje dat,“ vysvětluje Jou.

 

K čemu se to hodí

Silverstone i Jou tvrdí, že strojové učení prokázalo v organizacích svou schopnost předpovídat pravděpodobný odchod zaměstnanců a změny k nepřijatelnému chování a kradení dat. „Tímto způsobem zcela běžně chytáme přestupníky,“ prohlašuje Jou.

Silverstone uvedl, že...

 

Tento příspěvek vyšel v Security Worldu 1/2016. Oproti této on-line verzi je výrazně obsáhlejší a přináší další poznatky a tipy, které lze využít při praktické implementaci u vás ve firmě.

Časopis (starší čísla i předplatné těch nadcházejících) si můžete objednat na adrese našeho vydavatelství.

Úvodní foto: © Mopic - Fotolia.com










Komentáře