Technologičtí giganti se sídlem právě v Kalifornii vyjádřili obavy, že by zákon mohl bránit inovacím v oblasti AI a případně přimět tyto společnosti k přesunu do jiných regionů.
Je podle vás regulace AI vhodnou metodou, jak zabezpečit AI?
Americký federální zákon na regulaci AI je totiž zatím v nedohlednu, takže přístup Kalifornie se jeví pro americký přístup k této problematice jako klíčový.
Předložená právní úprava vyžadovala bezpečnostní testy a stanovila přísné normy pro pokročilé modely AI.
Podle Newsoma má sice dobré úmysly, avšak nezohledňuje, zda se systém AI nasazuje ve vysoce rizikovém prostředí, zda zahrnuje skutečně kritické rozhodování nebo zda používá citlivé údaje.
„Místo toho návrh zákona uplatňuje přísné normy i na ty nejzákladnější funkce. Nedomnívám se, že je to nejlepší přístup k ochraně veřejnosti před skutečnými hrozbami, které tato technologie představuje,“ dodává Newsom.
Návrh zákona, jehož autorem je senátor Scott Wiener, nařizuje testování bezpečnosti pokročilých modelů umělé inteligence, zejména těch, jejichž vývoj stojí více než 100 milionů dolarů nebo vyžadují značný výpočetní výkon.
Zákon také předpokládal vytvoření státního subjektu, který by dohlížel na vysoce pokročilé systémy umělé inteligence, které by mohly díky svým schopnostem představovat větší riziko.
Kromě toho návrh zákona také ukládal vývojářům povinnost zavést tzv. „kill switch“, který deaktivuje modely představující hrozbu, a také podrobit se auditu třetí strany, který ověří jejich bezpečnostní postupy.
Podle Wienera dobrovolné závazky vývojářů umělé inteligence nejsou dostatečné a že k ochraně veřejnosti před potenciálními škodami souvisejícími s umělou inteligencí jsou nevymahatelné a málokdy dopadnou dobře pro veřejnost.
Na druhou stranu Newsom odmítnutí zákona doprovodil oznámením řady nových iniciativ zaměřených na bezpečnější generativní AI.
Téměř dvacet nových zákonů pokrývá oblasti, jako jsou dezinformace generované umělou inteligencí, deepfake, vodoznaky AI či ochrana dětí před škodlivými aplikacemi AI.
Pověřil také úřady, aby zhodnotily rizika, která GenAI představuje pro kritickou infrastrukturu státu. Ta zahrnuje energetické, vodohospodářské a komunikační systémy.
A tak zatímco Microsoft, OpenAI či Meta mohou být spokojené s odmítnutím zákona, zklamaný je zřejmě Elon Musk, který naopak přijetí zmíněného zákona podporoval.
Security World si můžete koupit i jako klasický časopis, buď v klasické tištěné formě nebo v elektronické verzi. Věnujeme se bezpečnosti počítačových systémů, ochraně dat, informací a soukromí. Jsme jediný titul na českém a slovenském trhu, který oslovuje širokou čtenářskou obec – od ředitelů firem, přes odborníky na bezpečnost po koncové uživatele. Naším cílem je poskytnout ucelený přehled o bezpečnostních hrozbách a zejména o tom, proč a jak se jim bránit, případně proč respektovat a dodržovat nařízení IT manažerů ve firmách.
PŘEDPLATNÉ
ČLÁNKY DO MAILU