Skoro třicítka zemí, včetně Evropské unie, USA, Austrálie nebo Číny, uzavřela v anglickém Bletchley Parku, což je ikonický domov počítačové vědy, dohodu, která stanoví společné chápání příležitostí a především rizik, které přinášejí tzv. frontier AI modely.
Využíváte už ve firmě autonomní agenty postavené na bázi umělé inteligence?
Tyto modely jsou podle OpenAI definované jako ty, které by mohly mít takové schopnosti, že by představovaly vážné riziko pro bezpečnost lidstva.
Dohoda rovněž uznává potřebu spolupráce vlád při řešení nejvýznamnějších výzev v oblasti umělé inteligence.
Bletchleyská deklarace o bezpečnosti AI vyjadřuje souhlas 28 zemí s naléhavou potřebou porozumět potenciálním rizikům a společně je zvládat prostřednictvím nového společného globálního úsilí, které má zajistit, aby AI byla vyvíjena a nasazována bezpečným a odpovědným způsobem ve prospěch celosvětového společenství.
Deklarace vytváří společnou dohodu a odpovědnost ohledně rizik, příležitostí a dalšího postupu pro mezinárodní spolupráci v oblasti bezpečnosti a výzkumu frontiers AI, zejména prostřednictvím větší vědecké spolupráce, uvedla britská vláda.
Země se shodly na tom, že podstatná rizika mohou vyplývat z možného úmyslného zneužití nebo neúmyslných problémů spjatých s kontrolou frontiers AI, přičemž zvláštní obavy vyvolávají rizika v oblasti kybernetické bezpečnosti, biotechnologií a dezinformací.
V prohlášení je uvedená shoda, že existuje „potenciál vážných, dokonce katastrofických škod, ať už úmyslných, nebo neúmyslných, plynoucích z nejvýznamnějších schopností těchto AI modelů“.
Účastníci rovněž upozornili na rizika přesahující frontiers AI, včetně předpojatosti a ochrany soukromí, přičemž deklarace podrobně uvádí, že tato rizika lze nejlépe řešit prostřednictvím mezinárodní spolupráce.
„Jde o přelomový úspěch, díky němuž se největší světové mocnosti v oblasti umělé inteligence shodly na naléhavosti pochopení rizik spojených s umělou inteligencí, což pomůže zajistit dlouhodobou budoucnost našich dětí a vnoučat,“ uvedl britský premiér Rishi Sunak.
Dodal, že se více než 25 zemí na summitu o bezpečnosti AI přihlásilo ke společné odpovědnosti za řešení rizik spjatých s AI a za další zásadní mezinárodní spolupráci v oblasti bezpečnosti a výzkumu frontiers AI.
Nedávno Sunak také oznámil, že Velká Británie zřídí první Institut pro bezpečnost umělé inteligence na světě, který bude zkoumat, hodnotit a testovat nové typy umělé inteligence.
Security World si můžete koupit i jako klasický časopis, buď v klasické tištěné formě nebo v elektronické verzi. Věnujeme se bezpečnosti počítačových systémů, ochraně dat, informací a soukromí. Jsme jediný titul na českém a slovenském trhu, který oslovuje širokou čtenářskou obec – od ředitelů firem, přes odborníky na bezpečnost po koncové uživatele. Naším cílem je poskytnout ucelený přehled o bezpečnostních hrozbách a zejména o tom, proč a jak se jim bránit, případně proč respektovat a dodržovat nařízení IT manažerů ve firmách.
PŘEDPLATNÉ
ČLÁNKY DO MAILU