Sociální síť X v problémech kvůli tréninku umělé inteligence s osobními údaji

Po irské Komisi pro ochranu osobních údajů (DPC) nyní podala stížnost na platformu sociálních médií X (dříve Twitter) i rakouská skupina NOYB, která ji obviňuje, že bez souhlasu používá osobní údaje k trénování svých systémů AI.

NOYB ve svém prohlášení uvedla, že podala stížnost na GDPR u úřadů pro ochranu osobních údajů v devíti zemích, aby zajistila důkladné vyřešení zásadních právních obav týkajících se tréninku AI společnosti X.

Minulý týden požádal úřad pro ochranu osobních údajů o vydání příkazu k zastavení nebo omezení používání uživatelských údajů společností X pro vývoj, školení a zdokonalování umělé inteligence.

V návaznosti na to společnost X souhlasila s dočasným pozastavením výcviku umělé inteligence s využitím osobních údajů uživatelů z EU, dokud nedostanou možnost odvolat svůj souhlas.

NOYB to však považuje za nedostatečné a uvádí, že stížnost DPC se týká především zmírňujících opatření a nedostatečné spolupráce společnosti X, aniž by zpochybňovala zákonnost samotného zpracování údajů.

„V minulých letech jsme byli svědky nesčetných případů neúčinného a částečného vymáhání práva ze strany DPC,“ uvedl v prohlášení Max Schrems, předseda NOYB. „Chceme zajistit, aby společnost Twitter [X] plně dodržovala právní předpisy EU, které – přinejmenším – vyžadují, aby v tomto případě požádala uživatele o souhlas.“

NOYB dodala, že několik klíčových otázek zůstává nezodpovězeno, včetně toho, co se stalo s údaji EU, které již byly do systémů vloženy, a jak společnost X plánuje řádně oddělit údaje EU a mimo EU.

Vytvoření precedentu v oblasti prosazování GDPR

Stížnost představuje významný precedens pro uplatňování nařízení GDPR v oblasti školení umělé inteligence, zejména při vytváření a používání embeddingů v modelech umělé inteligence. Podle zákona EU o UI musí tyto procesy dodržovat standardy transparentnosti a etického používání UI.

„Tento případ poukazuje na napětí mezi technologickým pokrokem a předpisy o ochraně osobních údajů,“ uvedla Sakshi Grover, senior manažerka výzkumu ve společnosti IDC Asia Pacific. „GDPR spolu se zákonem EU o umělé inteligenci klade důraz na souhlas uživatelů a transparentnost, což vede ke zvýšené kontrole toho, jak jsou osobní údaje využívány pro výcvik umělé inteligence. Aplikace a platformy musí dodržovat přísné standardy správy dat, aby chránily údaje uživatelů a zajistily ochranu soukromí, zahrnující opatření v souladu s GDPR a ustanoveními zákona EU o AI o nakládání s daty."

To je zásadní, protože data slouží jako krevní řečiště moderních organizací, podporují konkurenci, zvyšují efektivitu, generují obchodní poznatky a vytvářejí nové zdroje příjmů.

„V době nepřetržitého generování dat potřebují podniky schopnost bezpečně a efektivně přistupovat k datům, spravovat je a využívat, aby mohly pokročit ve svém úsilí o digitální transformaci,“ dodal Grover. „Zavedení protokolů pro ochranu osobních údajů je pro bezpečný průběh této transformace zásadní.“

Dopad na provoz společnosti X

Podle Neila Shaha, viceprezidenta pro výzkum a partnera společnosti Counterpoint Research, by to pro společnost X mohlo znamenat potíže, protože potřebuje vybudovat silný „sociální graf“, model, který sleduje interakce uživatelů na platformě sociálních médií.

Využívání umělé inteligence u obsahu vytvářeného uživateli ve spojení s demografickými údaji je pro přežití platforem sociálních médií, zejména těch, které jsou poháněny obchodními modely založenými na reklamě, zásadní.

„Zatímco X může přímo využívat data generovaná na platformě ve veřejné doméně, podobně jako u jiných, existuje tenká hranice týkající se toho, jak a do jaké míry jsou data uživatelů ukládána, používána k trénování modelu AI a následně využívána k dalšímu cílení na tyto uživatele,“ řekl Shah. „To bude vyžadovat větší transparentnost ze strany společnosti X, aby se zajistilo, že tato hranice nebude překročena a že bude dodržen řádný proces GDPR. Do té doby by tento případ mohl být precedentem pro většinu platforem využívajících uživatelská data k trénování své umělé inteligence.“

Nejnovější stížnost by mohla zpomalit dosažení cíle pokročilé analýzy s Grokem pro X, zejména pro monetizaci v podobě prémiového předplatného nebo možností cílené reklamy, dodal Shah.