Jsme počítače, které o tom nevědí

Umělá inteligence bude "zbastlená" V Computerworldu číslo 11/2003 jsme se podrobně podívali na Turingův test. V CW č


Umělá inteligence bude "zbastlená"
V Computerworldu číslo 11/2003 jsme se podrobně podívali na Turingův test. V CW
číslo 15/2003 jsme si pak představili i samotného Alana Turinga, především s
jeho koncepcí Obecného stroje a pracemi na šifře Enigma. Nyní se k problémům
umělé inteligence vracíme ještě jednou, čímž otázky s tím spojené na nějaký čas
uzavřeme. Na scénu tedy do třetice vstupují Turingovy stroje, paradox Čínského
pokoje či Chalmersovy zombie.
Na naše otázky odpovídá Jaroslav Peregrin, matematik a profesor logiky na
Filozofické fakultě Univerzity Karlovy.

Jak se díváte na Turingův test po zhruba padesáti letech od chvíle, kdy byl
poprvé navržen?
Myslím, že Turingův test rozhodně ani dnes neztrácí na zajímavosti. Pozoruhodné
je, že na jedné straně existuje celá řada vědců a filozofů, kteří ho považují za
příliš "měkký" připsat počítači myšlení jen na základě toho, že tímto testem
projde, považují za absurdní. Na straně druhé naše počítače se, navzdory
fantastickému technologickému pokroku, který se během padesáti let od Turingovy
formulace tohoto problému odehrál, ani zdaleka nepřibližují něčemu, co by toho
bylo schopno.

Je relevantním argumentem proti turingovskému pohledu na myšlení Searlův "Čínský
pokoj"?
John Searle patří k těm, kdo se domnívají, že Turingův test je scestný, protože
i kdyby jím počítač nakrásně prošel, říkat o něm, že myslí, by bylo absurdní
počítač podle Searla nemůže skutečně myslet, ale jenom myšlení mechanicky
napodobovat. Searlův myšlenkový experiment s Čínským pokojem má prokázat právě
tento přístup. Stal se asi nejdiskutovanějším tématem filozofie umělé
inteligence posledních desetiletí.
Představte si, říká Searle, pokoj, ve kterém sedí člověk vybavený příručkami,
podle kterýchje schopen sestavit smysluplnou čínskou odpověď na jakoukoli
čínskou otázku,kterou mu někdo okénkem podá a to aniž by sám rozuměl slovo
čínsky. Ten pokoj s tím člověkem uvnitř se tedy z hlediska Turingova testu
chová docela jako Číňan;ale podle Searla by bylo absurdní říkat, že rozumí
čínsky. Takže něco jiného je ozumět a něco jiného je imitovat porozumění.
Mám ale pocit, že je třeba si uvědomit, jak komplikovaná by pravidla pro
sestavování smysluplné odpovědi na jakoukoli smysluplnou otázku musela být.
Představa, že by to mohl uskutečňovat člověk za pomoci příruční knihovny, se mi
jeví být naprosto nerealistická. Zdá se mi, že jedinou možností, jak by to mohlo
skutečně fungovat, by bylo, aby dotyčný člověk měl v pokoji nikoliv knihovnu,
ale velice výkonný počítač s velice obsáhlými databázemi a s velice
sofistikovaným softwarem. Samotný člověk by tam pak už byl fakticky zbytečný,
vše by obstaral počítačový systém, který bych se pak já osobně nerozpakoval
nazývat umělou inteligencí.

Co říkáte možnosti existence Chalmersových zombií? Zombie v tomto smyslu není ta
z hollywoodských filmů, s nepřítomným výrazem, popelavou pletí a náměsíčnými
pohyby tady je zombie podle definice entita, která se z vnějšího pohledu ani v
nejmenším neliší od normálního člověka, liší se od něj jenom tím, že nemá
vědomí. Jak se Chalmersova zombie vztahuje k Turingově testu a umělé
inteligenci? Jestli totiž může taková zombie existovat, pak může existovat něco,
co projde Turingovým testem, aniž to má vědomí a tudíž to v normálním slova
smyslu nemůže myslet.

Souhlasíte s Turingem (a například i se Stephenem Hawkingem), že vědomí není
kvalita, kterou by se věda měla zabývat? Nemáme nikdy jistotu, že všichni kromě
nás nejsou Chalmersovými zombiemi. Proto má smysl hovořit pouze o inteligenci, a
tu poznáme na základě chování systému navenek. A tudíž z hlediska konstrukce
umělé inteligence je pro nás Turingův test či počítačová imitace myšlení plně
postačující. Máte stejný názor?
V podstatě ano, ale musíme být opatrní, pokud jde o smysl výrazu "zabývat se
vědomím". Věda se samozřejmě vědomím zabývá v tom smyslu, že se zabývá určitými
projevy organismů, které chápe jako vědomé. Lidé jako Chalmers ale, jak se zdá,
trvají na tom, že i když prozkoumáme všechny možné takové projevy, zůstává stále
ještě otázka, zda je vědomí "skutečně přítomno".
Když se ale podíváte na nějakou knihu, ve které se existencí vědomí zabývají
vědci (a nikoli filozofové), jako je například Crickova Věda hledá duši,
uvidíte, že stavět otázku tak jako Chalmers jim vůbec nepřijde na mysl. Pro
Cricka prostě vědomí nemůže být ničím jiným než určitou formou (objektivně
studovatelné) činnosti mozku nebo nějakého jiného systému jde jenom o to, přijít
na to jakou.

Co s Penrosovou námitkou, podle které počítače nejsou schopny matematického
důkazu? Spočívá rozdíl mezi člověkem a strojem trochu paradoxně právě v tak
"strojové" oblasti, jakou je matematika?
Mně osobně se ani tato námitka nezdá být příliš přesvědčivá: podle mne vychází z
interpretace GÖdelovy věty, která je přinejmenším problematická. GÖdel dokázal,
že pro formální aritmetiku nemůžeme nikdy stanovit axiomatický systém, ze
kterého by byl každý výrok, jenž je v tomto jazyce formulovatelný, dokazatelný
nebo vyvratitelný. Z toho se vyvozuje, že existují aritmetické výroky, které
jsou pravdivé, ale nedokazatelné. A Roger Penrose z toho dále vyvozuje, že k
pravdivosti takových výroků se může dopracovat (nějakými nepopsatelnými cestami)
jedině lidský rozum, nikoli stroj, který je omezený na dokazování.
Zdá se mi však, že při vyvozování takto bezprostředních filozofických důsledků z
GÖdelovy věty musíme být opatrnější, než je Penrose. Trvá-li však někdo na její
bezprostředně filozofické interpretaci, pak mohou nabídnout jinou než tu
Penrosovu: logik Chaim Gaifman nedávno konstatoval, že GÖdelova věta namísto
Penrosova "nejsme stroje" ukazuje, že "jsme stroje, které nemohou vědět, že jsou
stroje".

Jaký máte názor na knihy typu Descartův omyl, tj. koncepce, které zdůrazňují
"vtělenost" mysli? Můžeme mezi umělou inteligenci zařadit třeba software, nebo
musí jít o systémy nějak fyzické, například roboty?
Myslím, že mysl skutečně je v podstatném slova smyslu vtělená. Z tohoto hlediska
tedy může být Turingův test přece jenom nemístně omezený možná, že myšlení
skutečně není věcí natolik omezenou na mozek, aby mohl počítač ve skutečném
slova smyslu myslet, nemá-li něco srovnatelného s naším tělem. Ve vybavení
počítače takovým druhem těla, jaké máme my, však nevidím principiální problém.
Například v rámci projektu COG na Massachusetts Institute of Technology
(http://www-caes.mit.edu/mvp /html/cog.html) se ostatně na něčem takovém
usilovně pracuje.

Jaký máte vztah k funkcialismu, tedy představě, že vědomí či mysl jsou čímsi na
způsob softwaru, který může běžet de facto na libovolném (dostatečně složitém)
hardwaru? Myšlení by pak bylo cosi jako výpočet...
To souvisí s předchozí otázkou. Nejsem si jist, zda je v lidském mozku, a
obecněji v lidském těle, možné nějak jasně "hardware" a "software" oddělit. Jak
už jsem řekl, nemyslím si, že vědomí nutně předpokládá nějaké organické tkáně, a
ne třeba silikon; na druhé straně však nejsem přesvědčen, že může být
oddělitelné v podobě nějaké "softwarové vrstvy", která by poté byla přenositelná
do počítače.

Jsou podle vás plodné spekulace o tom, zda mozek je počítačem paralelním nebo
sériovým, eventuálně kombinací obou z nich?
Zdá se mi, že mozek jistě nelze vidět jako počítač s von Neumannovou
architekturou, to jest počítač tradičního a dodnes standardního typu. Mně
osobně se zdá nejatraktivnější tzv. mnohanáčrtový model vědomí navržený
Danielem Dennettem (v jeho knize Consciousness Explained):Podle něj se v
určitých částech mozku objevují a mizí různé elektrické aktivity,které spolu
soupeří, a ty, kterým se podaří ostatní na chvíli přebít, se stávají vědomými.
To, co pociťujeme jako souvislý proud vědomí, by tak byla velice různorodá směs
vzájemně se vytlačujících projevů různých procesů.

Pokládáte za nadějnější přístup, který se snaží problémům myšlení porozumět na
základě studia lidského mozku, nebo se průlomu podaří dosáhnout prostě tak, že
nějaký systém umělé inteligence zkonstruujeme?
Studium lidského mozku je pro UI jistě inspirativní (nelze nevzpomenout na takto
inspirovaný vývoj softwarových neuronových sítí); mně se ale zdá, že v dohledné
době je třeba očekávat výsledky od pragmatičtěji orientovaných přístupů.

Jaké expertní systémy se podle vašeho názoru nejvíce blíží onomu vágnímu pojmu

"umělá inteligence"? Nemám tím na mysli ani tak konkrétní aplikace, ale
spíšetypy systémů.
Myslím, že nejefektivnější systémy jsou, tak jako ostatně i náš mozek a naše
mysl, heterogenní přirozený výběr je, zdá se, mistr "bastlení".
Vezměte si třeba šachové programy. V učebnicích se dočteme, že jsou založeny na
kombinaci funkce, která ohodnocuje pozice na šachovnici, a výkonného modulu,
který na několik tahů dopředu propočítává hodnoty všech dosažitelných postavení
a volí cestu k tomu, které má tu nejvyšší. Skutečně funkční šachový program ale
tohle jistě musí kombinovat s komponentami zcela odlišného druhu: třeba s
knihovnou zahájení či s modulem pro koncovky, který pracuje na úplně jiném
principu atd.
Myslím tedy, že nejperspektivnější jsou skutečně systémy, které ne příliš
lahodí oku teoretika systémy "zbastlené" z různých principů a technik.

Jaké jsou vaše oblíbené webové stránky pokrývající problém umělé inteligence?
Jako výchozí bod je možné doporučit například stránku Americké asociace pro

umělou inteligenci: http://www.aaai.org/AITopics /index.html.

Jakou česky vyšlou knihu o biologické i umělé inteligenci byste doporučil
čtenářům?
Já osobně mám slabost pro Daniela Dennetta, česky od něj vyšly např. Druhy
myslí, které jsem sám přeložil.









Komentáře
K tomuto článku není připojena žádná diskuze, nebo byla zakázána.