Evropská komise chce regulovat využití AI

V Bruselu vymýšlí, jak zajistit bezpečné a užitečné využívání umělé inteligence a zároveň neztratit krok se Spojenými státy a s Čínou.

Evropská komise chce regulovat využití AI


Evropská komise připravuje zákon regulující využití umělé inteligence. Zejména v oblasti rozpoznávání tváří a využívání algoritmů, které dokážou ovlivnit lidské chování. Vyplývá to z návrhů zákona, které unikly ještě před oficiálním zveřejněním, informuje BBC. Dle expertů je však jejich znění vágní.

Autoři navrhují regulovat mimo jiné AI systémy, které „ovlivňují lidské chování, názory či rozhodnutí“, takové, které jsou využívané pro „nahodilé sledování“ či ty určené pro „společenské hodnocení“ (připravované jako systém sociálního kreditu například v Číně). Daniel Leufer, analytik evropské politiky, se však na sociálních sítích pozastavuje nad tím, kdo bude hodnotitelem vymezených kritérií. Státy by totiž k určování míry rizika umělé inteligence musely začít uplatňovat větší dohled.

V dokumentaci jsou navrženy také postihy za přečiny proti legislativě, z nichž vyplývá, že firmy, které by vyvíjely zakázané služby nebo ty, které by k nim nedokázaly dodat potřebné informace, by mohly čelit pokutě až ve výši 4 % z celkového ročního obratu, tedy totožné, jaká je stanovena za porušení předpisů GDPR.

Evropská komise zároveň navrhuje, aby AI systémy měly také své „vypínače“ umožňující v případě potřeby jejich okamžité vypnutí. Dle Leufera by však měl být návrh zákona v prvé řadě rozšířen tak, aby obsahoval veškeré AI systémy ve veřejném sektoru, bez ohledu na možnou míru jejich rizikovosti. „Lidé totiž ve veřejném sektoru zpravidla nemají na výběr, zda s takovým systémem přijdou do styku, nebo ne.“

Michael Veale, specialista na digitální právo a regulaci na University College London, pro změnu upozorňuje na nutnost doložky, která by přiměla firmy informovat na využívání deepfake obsahu. Dle něj je současná podoba návrhu cílená zejména na vývojáře a konzultanty prodávající AI technologii do vzdělávacích zařízení, zdravotnických zařízení, policii, ale i zaměstnavatelům, „často beze smyslu“.

Dle BBC bude muset Evropská komise najít tenkou linii mezi potřebou zajistit umělou inteligenci coby nástroj prospěšný a užitečný, ale zároveň zabránit jeho zneužívání, přičemž evropské země nesmí v technologickém vývoji ztratit krok se Spojenými státy a s Čínou. S tím, že je návrh ještě značně nedokonalý, souhlasí také tzv. European Centre for Not-for-Profit Law, úřad, který Evropské komisi s definováním tématu AI pomáhá.

„Přístup Evropské unie k hodnocení rizik je černobílý, což může být nebezpečné, jelikož postrádá nezbytný kontext a nuance. Komise by měla v prvé řadě zhodnotit rizika AI systému v rámci stávajícího legislativního rámce, a za druhé by měla zavrhnout zjednodušující strukturu hodnocení rizik a zvážit vytvoření více odstupňovaného hodnocení.“ Oficiálně by měl být návrh představen příští týden, ovšem než se promění ve skutečný zákon, nejspíš ještě pár let potrvá.

Úvodní foto: phonlamaiphoto










Komentáře