Britská univerzita studuje hrozbu umělých inteligencí

Univerzita v Cambridgi plánuje otevření centra CSER (Center for the Study of Existential Risk) pro zkoumání rizik, která lidstvu přinášejí nové technologie.

Britská univerzita studuje hrozbu umělých inteligencí


Ve svém nedělním prohlášení Univerzita v Cambridgi oznámila založení centra, které by od příštího roku mělo zkoumat technologie – od biotechnologií po umělé inteligence, jež by mohly v budoucnosti vést až k vyhynutí rodu Homo sapiens. Na počátku pro mnoho vědců překvapivého kroku byly tři zástupci značně odlišných oborů: profesor filosofie Huw Price, softwarový inženýr Jaan Tallinn (jeden ze zakladatelů společnosti Skype) a Lord Martin Rees, prezident Královské společnosti.

Profesor Huw Price se dlouhodobě věnuje problematice umělých obecných inteligencí. „V určitém okamžiku, možná v tomto století nebo v tom následujícím, se budeme muset postavit velkému obratu v historii lidstva a možná i vesmíru, kdy inteligence přestane být limitovaná biologickými faktory.“ Zájem filosofa se přesunul na související rizika po jeho setkání s Jeanem Tallinnem, který se v posledních letech stal evangelistou pro vážné diskuse na téma etických a bezpečnostních aspektů umělých inteligencí.

Biologie již prokázala, že „šedá hmota“ dokáže myslet, a to v objemu velikosti lidské lebky. Je tedy zřejmé, že množství materiálu a komplexnosti jeho uspořádání, které je nezbytné pro vznik inteligence, je limitované a dříve nebo později bude spadat do limitů dosažitelných pro produkty člověka. V okamžiku, kdy umělá inteligence poprvé vytvoří jinou, vyšší umělou inteligenci, možná otevřeme Pandořinu skříňku, kdy se dostaneme nejen na vedlejší kolej, ale poprvé přestaneme být dominantním druhem – a historie nám jasně ukazuje, jak podobné střety vždy skončily.

Huw Price připouští, že některé z myšlenek se mohou zdát trochu přitažené za vlasy a určené spíše pro scifi, ale trvá na tom, že to je právě jedním z klíčových důvodů. „Pokud mluvíme o riziku tak globální katastrofy, jako je vyhnutí celého lidského rodu, je nezbytné se věnovat studiu otázek, které běžně sociologické důvody vytlačují z témat akceptovatelných pro „seriozní“ zkoumání. Některé extrapolace možností a důsledků technologií mohou být nejisté, ale to jen podtrhuje potřebu většího pochopení, co umělé inteligence i jiné technologie obnášejí.

A co by mohlo být vhodnějším místem než Cambridge, jedna z nejstarších světových vědeckých univerzit, která může poskytnout těmto záležitostem tolik potřebný respekt v akademických komunitách? Doufáme, že CSER se stane místem, kde budou prvotřídní myslitelé z různých oborů společně zkoumat technologická riziko pro nejbližší ale i vzdálenou budoucnost.

Cambridge nedávno oslavila své osmisetleté výročí a naším cílem je snížit riziko, že zde nebude mít kdo oslavovat její milénium. “

Úvodní foto: © Tonis Pan - Fotolia.com










Komentáře