Strach z umělé inteligence, která se vymkne svému kódování a pokusí se ovládnout lidstvo, je zakořeněn hluboko v přirozenosti člověka, a ještě podpořen akčními filmy i rychlým technologickým rozvojem. Google DeepMind však aktivně pracuje na preventivním opatření – takzvaném kill switch, tedy metodě, jak okamžitě a vzdáleně „probuzené“ stroje deaktivovat.
Nejen laici mají strach z budoucnosti řízené chytrými, autonomními přístroji – podobnou obavu projevili i skuteční odborníci z oboru, jako je kupříkladu miliardář a majitel Tesly Elon Musk. I toho by snad práce DeepMindu, londýnské firmy, zakoupené Googlem v roce 2014, mohla uklidnit. Ta teď totiž pracuje na pomyslném „červeném tlačítku“.
Jde o to, že vlastní deaktivační tlačítko by si chytrý stroj mohl v budoucnu sám deaktivovat. A pokud by se tak stalo, lidstvo by potřebovalo jiné řešení situace – a to vytváří právě DeepMind.
„Pokud přístroj operuje v reálném čase pod lidským dozorem, jednou za čas možná bude potřeba zmáčknout ‚velké červené tlačítko‘, aby se zamezilo umělé inteligenci v pokračování v nežádoucí činnosti – nežádoucí pro přístroj, nebo jeho okolí,“ píší vědci ve studii, publikované na webu institutu Machine Intelligence Research. „Pokud by se však přístroj naučil zamezit takovým vnějším lidským zásahům, např. prostou deaktivací tlačítka, šlo by o velmi nežádoucí jev.“
Autoři studie jsou Laurent Orseau, výzkumník z Google DeepMind; a Stuart Armstrong, vědec z institutu Feature of Humanity, tedy budoucnost lidstva, na Oxfordské univerzitě ve Spojeném království.
Oba vědci hledají způsob, jak provést, aby se stroj o lidském zásahu nedověděl a nemohl tak proces zastavit.
Jde o zajímavý a dost možná klíčový krok pro vývoj umělé inteligence – bez podpory veřejnosti by totiž inovační proces pokračoval jen stěží.
S filmy jako 2001: Vesmírná Odysea; Terminátor; Já, robot; nebo třeba i Battlestar Galactica opravdu není problém si představit budoucnost, dominovanou právě umělou inteligencí, jíž lidé jen poslušně slouží.
Slavná je například věta: „Vývoj skutečné umělé inteligence by mohl znamenat konec lidské rasy.“ To jsou tvrdá slova, obzvlášť když pocházejí od jednoho z nejuznávanějších současných vědců – Stevena Hawkinga.
Vývoj externí metody deaktivace strojů přichází v tu pravou chvíli; jak pro uklidnění zainteresované veřejnosti, tak pro inovační snahy.
„Doba je vhodná pro takovou diskuzi, neboť architektura umělé inteligence a autonomních strojů jako takových právě začíná vznikat,“ říká Patrick Moorhead, analytik z Moor Insights & Strategy. „Bylo by to jako vyvinout auto a až pak vytvořit ABS a brzdový systém. Kill switch musí být nainstalován do celkového systému; jinak by mohly vzniknout nepatřičné bezpečnostní hrozby a možná i snaha strojů obejít vlastní deaktivaci.“
Moorhead nesdělil, zda se sám bojí potenciálního vzestupu strojů s umělou inteligencí, ale potvrdil, že je rád, že se na „velkém červeném tlačítku“ pracuje.
„Měli bychom mít obavy ze strojů bez kill switche,“ dodává. „To by bylo podobné superrychlému vlaku bez brzd.“
Jeff Kagan, další průmyslový analytik, potvrdil, že výzkum firmy DeepMind dává smysl. Pro odvětví, které často vyvíjí technologie bez promýšlení následků, je to dobře načasovaná snaha.
„Ještě nejsme v bodě, kdy bychom se měli bát toho, že by moc převzala umělá inteligence,“ myslí si Kagan. „Nicméně, jakožto lidstvo, vždy tvoříme rychleji, než přemýšlíme… já jen doufám, že tito brilantní vědci využijí svoji mozkovou kapacitu k naší ochraně, spíše než jen k výzkumu a vývoji, který nás mohl v budoucnu ohrozit.“
Veřejnost bude s odborníky jistě souhlasit, že jde o dobrý, a vhodně načasovaný, nápad.
Google se do vývoje umělé inteligence pustil naplno, již nyní technologii používá u svého vyhledávacího enginu; v budoucnu se chystá její využití v chatovacích a video aplikacích, u Google Asistenta a v Google Home přístrojích.
Dává proto smysl, že právě část tohoto giganta na poli počítačových technologií upřela svou pozornost také na bezpečnostní prvky, říká Dan Olds, analytik pro společnost The Gabriel Consulting Group.
„Myslím si, že vzhledem k jeho hlubokému pohroužení do oblasti robotiky a umělé inteligence je pro Google přirozené být vůdčí postavou takového výzkumu,“ říká. „Že by se umělá inteligence nebo roboti pokusily ‚převzít vládu‘ je dosti vzdálená představa, vzhledem k současnému stupni vývoje. Ale jak daleko to skutečně je? V příštích pěti letech bych si dovedl představit, že by finanční instituce svěřila své portfolio ke spravování umělé inteligenci. Také si představuji nějaké mechanizované vybavení, plně pod kontrolou umělé inteligence. Proto potřebujeme kill switch – pro případ, že by některá z těchto věcí měla možnost způsobit škody.“
Držme tedy vědcům a dalším pracovníkům z DeepMind palce – aby zajistili, že se nás jednou náš robotický sluha nepokusí zničit.
PŘEDPLATNÉ
ČLÁNKY DO MAILU