Britská univerzita studuje hrozbu umělých inteligencí

Ve svém nedělním prohlášení Univerzita v Cambridgi oznámila založení centra, které by od příštího roku mělo zkoumat technologie – od biotechnologií po umělé inteligence, jež by mohly v budoucnosti vést až k vyhynutí rodu Homo sapiens. Na počátku pro mnoho vědců překvapivého kroku byly tři zástupci značně odlišných oborů: profesor filosofie Huw Price, softwarový inženýr Jaan Tallinn (jeden ze zakladatelů společnosti Skype) a Lord Martin Rees, prezident Královské společnosti.

Profesor Huw Price se dlouhodobě věnuje problematice umělých obecných inteligencí. „V určitém okamžiku, možná v tomto století nebo v tom následujícím, se budeme muset postavit velkému obratu v historii lidstva a možná i vesmíru, kdy inteligence přestane být limitovaná biologickými faktory.“ Zájem filosofa se přesunul na související rizika po jeho setkání s Jeanem Tallinnem, který se v posledních letech stal evangelistou pro vážné diskuse na téma etických a bezpečnostních aspektů umělých inteligencí.

Biologie již prokázala, že „šedá hmota“ dokáže myslet, a to v objemu velikosti lidské lebky. Je tedy zřejmé, že množství materiálu a komplexnosti jeho uspořádání, které je nezbytné pro vznik inteligence, je limitované a dříve nebo později bude spadat do limitů dosažitelných pro produkty člověka. V okamžiku, kdy umělá inteligence poprvé vytvoří jinou, vyšší umělou inteligenci, možná otevřeme Pandořinu skříňku, kdy se dostaneme nejen na vedlejší kolej, ale poprvé přestaneme být dominantním druhem – a historie nám jasně ukazuje, jak podobné střety vždy skončily.

Huw Price připouští, že některé z myšlenek se mohou zdát trochu přitažené za vlasy a určené spíše pro scifi, ale trvá na tom, že to je právě jedním z klíčových důvodů. „Pokud mluvíme o riziku tak globální katastrofy, jako je vyhnutí celého lidského rodu, je nezbytné se věnovat studiu otázek, které běžně sociologické důvody vytlačují z témat akceptovatelných pro „seriozní“ zkoumání. Některé extrapolace možností a důsledků technologií mohou být nejisté, ale to jen podtrhuje potřebu většího pochopení, co umělé inteligence i jiné technologie obnášejí.

A co by mohlo být vhodnějším místem než Cambridge, jedna z nejstarších světových vědeckých univerzit, která může poskytnout těmto záležitostem tolik potřebný respekt v akademických komunitách? Doufáme, že CSER se stane místem, kde budou prvotřídní myslitelé z různých oborů společně zkoumat technologická riziko pro nejbližší ale i vzdálenou budoucnost.

Cambridge nedávno oslavila své osmisetleté výročí a naším cílem je snížit riziko, že zde nebude mít kdo oslavovat její milénium. “