Koncept úniku dat – a všechny jeho důsledky pro soukromí, právo, dodržování předpisů i kybernetickou bezpečnost – je třeba zásadně přehodnotit. Důvodem je největší disruptivní technologie v IT za poslední desetiletí: generativní umělá inteligence (genAI).
Dřív byl únik dat přímočarou záležitostí. Stačilo, aby byl zaměstnanec nedbalý (nechal notebook v odemčeném autě, zapomněl vysoce citlivé dokumenty na sedadle v letadle, omylem poslal citlivý e-mail špatnému adresátovi) anebo hackeři jednoduše ukradli data ať už uložená v počítači nebo při jejich přenosu.
Vyvíjíte už podnikové aplikace s pomocí AI nástrojů?
Dnes se obavy, že k úniku dat dojde takovým způsobem, zdají být úsměvné. Podniková prostředí jsou zcela amorfní a únik dat může stejně snadno pocházet z firemního cloudu, od partnera SaaS nebo z nové oblíbené chyby všech: z partnerského prostředí velkého jazykového modelu (LLM).
Váš podnik je zodpovědný za každý kousek dat, který váš tým shromažďuje od zákazníků stávajících i těch potenciálních. Co se ale stane, když nové aplikace použijí vaše stará data novým způsobem? A co se pak stane, když se proti tomu zákazník ohradí? A co když vznese námitku regulátor nebo právník?
Když jsou zdi takto amorfní, jak přesně nad nimi má mít IT oddělení kontrolu?
Jen uvažte tuhle děsivou situaci. Parta studentů Harvardovy univerzity si hrála s digitálními brýlemi, aby s jejich pomocí získala v reálném čase přístup k datům o lidech náhodně potkaných na ulici. Nejzřejmějším poznatkem z jejich experimentu je to, že může jít o velmi účinný nástroj pro zloděje či podvodníky. Umožňuje někomu přijít k cizímu člověku a okamžitě o něm zjistit poměrně dost informací. Jde tak dokonalý způsob, jak někoho unést nebo mu ukrást peníze.
A teď si představte, že by se podvodník s pomocí tohoto nástroje dokázal doslova „prokecat“ ke vstupu do vaší kanceláře? Jen uvažte, jak přesvědčivě by se takto dal vystavět phishingový útok.
To přitom není ta nejhorší můra IT. Tou je, když oběť později zjistí, že zneužitá data pocházejí z vaší podnikové databáze, získané oklikou přes LLM partnera.
Vynechme teď digitální brýle. Co se stane, když vás pojišťovna na základě takto získaných údajů odmítne pojistit, nebo vás personální oddělení rovnou odmítne při ucházení se o práci? Předpokládejme dále, že chybu udělal software AI partnera. Třeba zrovna halucinoval? A tato chyba vedla k destruktivnímu rozhodnutí. Co pak?
Podkladová data pocházela z vaší interní databáze. Váš tým je sdílel s partnerem genAI XY. Váš tým najal XY a ochotně jim data poskytl. Jejich software to pokazil. Do jaké míry za to může vaše IT oddělení? V soudních sporech bývá tendence rozdělovat vinu na procenta a vyšší procenta uvalovat na ty bohatší subjekty. (Dost možná vaši firmu.)
Existuje několik způsobů, jak se s těmito scénáři vypořádat, ale ne všechny budou zrovna dvakrát oblíbené.
1. Smluvní – napište to na papír. Mějte přísné právní podmínky, které vašeho partnera v oblasti umělé inteligence zavazují k odpovědnosti za vše, co udělá s vašimi daty, nebo za případné následky. Tím sice nezabráníte tomu, aby někdo skončil u soudu, ale aspoň tam nebude sám.
2. Nesdílejte data. Toto je pravděpodobně nejméně populární možnost. Nastavte přísné mantinely, v rámci kterých můžou vaše oddělení s LLM partnery operovat, a kontrolujte a schvalujte úroveň dat, která smějí sdílet.
3. Zavádějte tvrdé tresty za porušení AI pravidel. Teoreticky můžete kontrolovat kontakty a přístup k datům u svých klíčových partnerů genAI. Pokud ale vaši lidé začnou do ChatGPT, Perplexity nebo vlastního účtu na CoPilotovi plnit data, k nimž nemají oprávnění, musí vědět, že budou odhaleni a že dvě porušení znamenají výpověď.
4. Anti-smlouva. Právníci rádi vytvářejí dvousetstránkové smluvní podmínky, které nikdo nečte. Musím však připomenout, že takové podmínky budou porotci v soudní síni ignorovat. Nemyslete si, že své právní riziko můžete opravdu pravým tlačítkem myši odvrátit.
5. Dodržování předpisů. Máte vůbec zákonné povolení ke sdílení všech těchto údajů s partnerem LLM? Mimo USA se většina regulačních orgánů nechává slyšet, že svá data vlastní zákazníci, nikoliv podnik. Zneužití dat – jako v případě harvardských brýlí – je jedna věc. Ale pokud váš genAI partner udělá chybu nebo má halucinace a pošle do světa chybná data, můžete být vystaveni újmě mnohem větší, než je pouhé sdílení příliš velkého množství informací.
Lidí, kteří hlídají, aby nedošlo k datové újmě, nemůžete zaměstnat nikdy dost. A ano, jejich angažování jistě sníží efekt z používání genAI. Ale věřte mi, v příštích několika letech to přinese lepší ROI než genAI sama o sobě.
Computerworld si můžete objednat i jako klasický časopis. Je jediným odborným měsíčníkem na českém a slovenském trhu zaměreným na profesionály v oblasti informačních a komunikačních technologií (ICT). Díky silnému zázemí přináší aktuální zpravodajství, analýzy, komentáře a přehledy nejnovejších technologií dříve a na vyšší odborné úrovni, než ostatní periodika na tuzemském trhu.
Obsah Computerworldu je určen odborníkům a manažerům z firem a institucí, kteří se podílejí na rozhodovacím procesu při nákupu ICT technologií. Jednotlivá čísla si můžete objednat i v digitální podobě.
PŘEDPLATNÉ
ČLÁNKY DO MAILU