Stephen Hawking varuje před umělou inteligencí

Obavy nad směrem vývoje informačních technologií vycházejí z přesvědčení, že umělé inteligence v horizontu t



Obavy nad směrem vývoje informačních technologií vycházejí z přesvědčení, že
umělé inteligence v horizontu tří či dokonce dvou desítek let svou inteligencí,
kapacitou a výkonností několikanásobně předstihnou možnosti lidského mozku.
"Uvědomte si," ozývá se hlasový simulátor zabudovaný v křesle světoznámého
profesora Hawkinga, "že na rozdíl od našeho intelektu se výkon počítačů
zdvojnásobuje každých osmnáct měsíců."
Astrofyzik a kosmolog Stephen Hawking, jeden z nejuznávanějších vědců
současnosti, v rozhovoru pro časopis Focus uvádí, že je nejvyšší čas, aby
lidstvo začalo brát nebezpečí hrozící ze strany nových technologií vážně.
Možnost, že umělá inteligence převezme řízení tohoto světa do své režie, už
podle něj zdaleka není pouze katastrofickou vizí spisovatelů science fiction,
ale reálnou hrozbou. Jediným východiskem pro lidstvo tváří v tvář zdokonalující
se AI je v úpravách jeho vlastního genomu. Podle Hawkinga totiž nebude pro
genetické inženýrství v příštích letech problém vytvořit "super-člověka" s
větší kapacitou mozku a vyšší inteligencí. V této souvislosti vidí jedinou
šanci v propojování lidského mozku s počítači (tzv. wet-wired technology).
Pokud se totiž vývoj umělé inteligence vymkne člověku z rukou, nezbude lidstvu
v budoucnosti nic jiného, než sáhnout k výrazným genetickým manipulacím na svém
druhu, aby udrželo převahu biologických systémů nad těmi elektronickými.
Hawkingovy obavy nad postupem umělé inteligence a drsné vize budoucího vývoje
vyvolaly značný zájem. Na jedné straně mu publicisté dávají za pravdu, že nové
technologie se postupně stanou pro člověka vážným nebezpečím, na straně druhé
je mu houfně vytýkán jeho příklon ke genetickým úpravám člověka. Jako
astrofyzik a kosmolog byl obviněn z toho, že příliš podléhá knihám Williama
Gibsona a filmům typu Matrix. Otázkou rovněž zůstává provádění genetických
manipulací. Je jasné, že podobné operace se totiž neobejdou bez nejmodernější
výpočetní techniky. Jen si to představme: sestrojíme v blízké budoucnosti
komplexní a výkonný počítačový systém pro účinnou manipulaci s lidskými geny,
zabraňující nevhodným zásahům do struktury DNA, abychom udrželi krok s AI. Ale
co když se tento program, nadaný schopností sebezdokonalování a propojený s
ostatními hyperinteligentními systémy, obrátí proti svým tvůrcům a provede
manipulace, které budou nikoli v zájmu člověka, ale v zájmu strojů obdařených
nějakou vlastní vizí světa?
Varovná slova nad překotně postupujícím vývojem umělé inteligence nejsou mezi
uznávanými vědci zdaleka ojedinělá (i když, pravda, málokdo z nich navrhuje tak
razantní řešení jako právě Hawking). Kevin Warwick, profesor kybernetiky a
přední odborník ve výzkumu AI, ve své knize "Úsvit robotů soumrak lidstva"
poznamenává: "Dokud jsou stroje méně inteligentnější než lidé, ovládáme je. Ale
jak dlouho?" Umělá inteligence je podle Warwicka bez hranic. Stroje propojené
sítí spolu budou moci komunikovat daleko efektivněji než lidé mezi sebou a
jejich inteligence se bude zvětšovat, až bude tak velká, že lidská inteligence
se bude zdát ve srovnání s ní naprosto zanedbatelnou. Pak umělým zařízením
přirozeně nebude nic bránit v tom, aby se stala dominantní formou "života" na
Zemi. "To je," dodává Warwick, "jediný možný závěr. Stroje ovládnou zemi. A to
již brzy!"
Z výstražných hlasů nad technologickým vývojem se stal proslulý zejména článek
"Proč nás budoucnost nepotřebuje?", publikovaný v časopise Wired. Jeho autorem
je Bill Joy, spolutvůrce programovacího jazyka Java a šéf vědeckého týmu firmy
Sun Microsystems, jenž je přesvědčen, že budoucí synergie nových technologií
(robotiky, genetiky a nanotechnologie) představuje závažnou hrozbu nejen pro
samotné lidstvo, ale i pozemský ekosystém jako takový.
Stejně jako Hawking a Warwick si Joy klade otázku, zda člověk v budoucnosti
bude vůbec schopen přežít své technologie. Přitom, což je pozoruhodné,
nebezpečí nekontrolovatelně se rozvíjející umělé inteligence, robotiky a
nanosystémů považuje za mnohonásobně vyšší, než představují takzvané zbraně
hromadného ničení, které zatím člověk přece jen pod kontrolou má.
Na závěr je třeba podotknout, že Hawkingův varovně pozdvižený prst kontrastuje
s nedávným uvedením nového Spielbergova filmu A. I. (film bude mít v našich
kinech premiéru v polovině října). Snímek, natočený na základě povídky
britského spisovatele Briana Aldisse, se odehrává v polovině 21. století, kdy
chlapec-robot, veskrze přátelská bytost s umělou inteligencí, zachrání svět
před ekologickou katastrofou, vyvolanou skleníkovým efektem.
1 1453 / pah








Komentáře
K tomuto článku není připojena žádná diskuze, nebo byla zakázána.