Turingův test

Spory o umělou inteligenci trvají i po 50 letech Již před více než padesáti lety napsal slavný britský matematik Alan ...


Spory o umělou inteligenci trvají i po 50 letech
Již před více než padesáti lety napsal slavný britský matematik Alan Turing
článek s názvem "Computing Machinery and Intelligence", ve kterém navrhl první
variantu dodnes diskutovaného Turingova testu. Jaké otázky se od dob Turinga
podařilo zodpovědět a jaké nové problémy naopak vyvstaly?
Pojem umělá inteligence je zatížen obrovským množstvím nejasností, mj. už
samotnou vágností pojmů. Co prohlásíme za "umělé" a co za "inteligentní"?
Turing se konstrukcí svého testu snažil otázku "mohou stroje myslet" převést z
oblasti filozofických a lingvistických spekulací na exaktnější úroveň. Jinak
řečeno, za myslící podle něj prohlásíme počítač tehdy, když jeho chování
nebudeme schopni rozeznat od chování člověka.
Motivací pro vývoj umělé inteligence existovala už v polovině 20. století celá
řada. Jedná se jistě o obrovskou teoretickou výzvu. Zkoumání inteligence umělé
nám zřejmě dokáže mnoho říct o inteligenci vlastní. Dalším důvodem je prostá
radost z konstrukce stále dokonalejších mechanismů, která historicky sahá
minimálně ke Golemovi. A nikoliv v poslední řadě zde jsou motivy ryze
praktické: Řadu úkolů musí plnit inteligentní bytosti, nicméně lidem se do nich
příliš nechce (jsou např. stereotypní, nebo naopak nebezpečné). Zde bychom
velmi rádi viděli myslící stroje, byť jsou možné i jiné cesty např. roboti
řízení na dálku prostřednictvím "lidského" rozhraní, cyberwaru (viz CW 9/2003).

Imitační hra
Ve své původní podobě vychází Turingův test z tzv. imitační hry, ve které jde o
to odlišit dva lidi podle pohlaví. Pozorovatel, na jehož pohlaví nezáleží, má
proti sobě např. ženu a muže, který předstírá, že je žena. Trojce lidí spolu
nepřijde samozřejmě do fyzického kontaktu, sedí v oddělených místnostech a
zprostředkovatel mezi nimi přenáší popsané lístky. Turing pak problém posunul:
Co kdyby namísto simulace opačného pohlaví byl imitátorem člověka počítač?
Jaký je stav problému padesát let poté, co jej britský matematik poprvé
zformuloval? Existuje celá řada více či méně dokonalých imitací určitých
lidských činností. Známá Eliza představuje program napodobující chování
psychoterapeuta. Tzv. Parry je jejím protějškem, tedy počítačovou simulací
pacienta postiženého paranoiou. Praktický význam mají tzv. expertní systémy,
tedy software snažící se zastoupit např. odborníka na burzovní prognózy či
lékaře stanovujícího diagnózu.
Test jako celek se však dosud žádnému programu splnit nepodařilo. Jaké jsou
další vyhlídky? Známý vizionář a spisovatel Ray Kurzweil nedávno uzavřel sázku,
že ke splnění podmínek Turingova testu dojde do roku 2029. Pochybující
protistranou je přitom Mitchell Kapor z Electronic Frontier Foundation. Magazín
Wired ovšem sázku zařadil do jedné řady s dalšími bláznivými nápady, které
přicházejí na lidi ze světa IT. Wired v této souvislosti zmiňuje Craiga
Mundieho z Microsoftu, který se domnívá, že ve stejné době už bude existovat
komerční provoz nepilotovaných letadel. Jeden z průkopníků superpočítačů Danny
Hillis se zase vsadil, že se vesmír nebude rozpínat věčně. Všechny sázky tohoto
druhu přitom "spravuje" nezisková organizace Long Bets Foundation.

Námitky a polemiky
Už sám Turing v původním článku uvedl několik možných námitek proti celé
koncepci. Později byla řada výhrad zřejmě vyvrácena, jiné přibyly. Polemiky
samozřejmě trvají.
Galantně začneme námitkou, kterou vypracovala žena, nadto se jedná o úvahu
historicky nejstarší, předcházející samotný Turingův test o více než 100 let.
Ada Lovelaceová, dcera lorda Byrona a spolupracovnice konstruktéra mechanických
parních počítačů Charlese Babaggea, přišla již v 1. polovině 19. století s
tvrzením, že počítač nemyslí, protože myšlení je nějak spojeno s původností. Z
počítače však dostaneme pouze modifikaci toho, co do něj vložíme (výsledek
rovnice apod.).
Za současného stavu vývoje IT není tato námitka příliš relevantní. Předně
nevíme, jak vlastně definovat onu "původnost" např. báseň je taktéž variací již
existujících slov, tedy de facto jen určitou kombinatorickou operací. Programy
dnes již každopádně dokáží psát povídky nerozpoznatelné od těch lidských nebo
odhalit taková tajemství šachové hry, která zůstávala jejich tvůrcům zcela
skrytá. Program tedy svým chováním dokáže své tvůrce překvapit (nejen ve smyslu
chyby), což je snad možné chápat jako ekvivalent původnosti.
Rozsáhlá literatura existuje o tzv. "paradoxu čínského pokoje", s nímž přišel
filozof John Searl. Searlova námitka uvádí, že splnění Turingova testu ještě
nemusí znamenat nějaké myšlení a uvědomování. V původní formulaci Searl
ukazuje, že člověk může být např. schopný smysluplně třídit tabulky s čínskými
znaky, aniž rozumí čínsky a chápe, co text na tabulkách znamená. Podobně
počítač, i když projde Turingovým testem, bude stále pouze něco imitovat a sám
nebude například nic "chápat". Námitky proti "čískému pokoji" shrnuje stránka
http://wwww.scienceworld.cz /sw.nsf/page/cinsky_pokoj.
Turing ovšem již ve svém původním článku poznamenává, že k tomu, abychom mohli
hodnotit, co počítač prožívá, bychom jím také museli sami být. Světoznámý fyzik
Stephen Hawking přímo dodává, že má smysl posuzovat pouze jevy viditelné
navenek tedy inteligenci a myšlení nikoliv kvality, které lze uvidět pouze
zevnitř (vědomí, prožívání apod.). Podle Hawkinga prostě nevíme, zda počítač má
"vědomí", stejně jako nevíme, zda ho budou mít představitelé nějaké hypotetické
mimozemské civilizace. Dokonce to jistě nevíme ani v případě druhých lidí
(jistotu máme pouze u sebe).
Existuje velice zajímavý myšlenkový experiment tzv. Chalmersových zombií.
Zkuste si představit, že všichni lidé kolem vás jsou pouze předprogramovanými
automaty, bezvědomými zombiemi. Nikdy si nemůžeme být jisti opakem, na vědomí
druhých lidí usuzujeme pouze podle jejich chování a totéž je tedy logické činit
i v případě počítačů. Z tohoto hlediska jsou Searlovy výhrady (snad) překonané.
Zajímavé námitky proti umělé inteligenci se týkají zdánlivě tak "strojového"
oboru, jakým je matematika.
Hawkingův spolupracovník Roger Penrose přišel s další matematickou námitkou,
která má dokázat, že lidské myšlení má v sobě kromě algoritmů ještě něco jiného
počítače podle něj nejsou schopny matematického důkazu, např. odhalit, že
prvočísel je nekonečně mnoho. Penrose se domnívá, že nejde jen o otázku
softwaru a výpočetní kapacity, některé matematické úlohy jsou neřešitelné i pro
obecný Turingův stroj.
Penrose sám přichází s hypotézou, že lidské myšlení nedospěje k matematickému
důkazu krok za krokem, ale jakousi zkratkou, kterou on sám vysvětluje naší
schopností přijít do kontaktu s "platónským" světem matematických objektů.
Premiéru si programy v matematických důkazech odbyly již v roce 1976, když se
podílely na potvrzení důkazu "čtyř barev" (viz obrázek). V rámci dokazování
bylo třeba klasifikovat určitý počet map. Úkol přesahoval lidské možnosti,
počítače jej však již tehdy zvládly nikoliv ovšem samy od sebe. Důkaz ale
přesto provázejí určité "filozofické" pochybnosti, jeden z matematiků výsledek
dokonce komentoval slovy: "Takže to ukazuje, že to prostě nebyl dobrý problém."
Chtěl tím naznačit, že regulérní matematický důkaz by se neměl dělat výčtem
prvků a řada důkazů takto udělat opravdu nejde. Nicméně i proti Penrosově
argumentaci samozřejmě existují protinámitky, někdy bývá dokonce pokládána za
již překonanou.
Co se týče praktických problémů spojených s konstrukcí myslících počítačů, už
sám Turing přišel s myšlenkou počítačů schopných se samy učit. Možná je obtížné
zkonstruovat rovnou "dospělého člověka", uvažoval Turing ve svém článku, zkusme
to tedy nejprve s "dítětem". Po Turingovi tyto myšlenky ožily díky
experimentům, které se snažily např. modelovat biologickou evoluci. Buněčné
automaty ukázaly, že i velmi komplexní systémy mohou vzniknout aplikací
několika jednoduchých pravidel, složitost se vynořuje "sama od sebe".
Pokud pro tvorbu systémů umělé inteligence použijeme techniky typu genetického
programování, je ovšem docela dobře možné, že před námi vyvstane nová černá
skříňka. Nakonec budeme mít inteligentně se chovající systém, aniž se toho
ovšem mnoho dozvíme o inteligenci nás samých. Jestliže je však naším cílem
především praktické nasazení expertního systému, který by dokázal simulovat
práci odborníků, pak nám fenomén černé skříňky zase příliš nevadí.

Zvláštní počítač
Na celý problém se můžeme podívat i z úplně opačné strany. Většinu námitek vůči
Turingovu testu prostě smeteme ze stolu tezí, že lidský mozek není ničím jiným
než počítačem, zařízením na zpracování informací. Struktura mozku je modulární,
přičemž moduly v počítačové terminologii zhruba odpovídají různým podprogramům
a specializovaným aplikacím. Chápání mozku jako počítače je v některých
oborech, např. v evoluční psychologii, již bráno za samozřejmost.
Nicméně v některých ohledech současné počítače rozhodně nedosahují schopností
lidského mozku a Turingovým testem doposud neprojdou. Plodnější než debaty o
tom, zda stroje mohou myslet nebo zda mozek je počítač, může být proto užší
vymezení problému: V čem se mozek-počítač liší od počítačů současných, jaké má
speciální vlastnosti?
V první řadě není jasné, zda mozek je systémem výlučně digitálním. V CW 9/2003
jsme na toto téma přinesli rozhovor s Markem Petrů, který zdůrazňoval, že na
práci lidského nervového systému se výrazně uplatňují i analogové systémy
(např. mechanismus pro rozpoznávání tváří).
Druhý okruh úvah se může točit kolem počítačů kvantových. Roger Penrose na
jednu stranu přirovnává mozek ke kvantovému počítači. Tuto Penrosovu představu
však většina ostatních odborníků odmítá. Pokud se nám podaří přivést k životu
kvantové počítače, snad budeme moci vyslovit určitější závěry. S Penrosovými
zásadnějšími výhradami k (ne)algoritmizaci lidského myšlení ve vztahu k
matematickým důkazům jsme se již setkali výše.
Další série problémů se týká otázky, zda lidský mozek funguje jako sériový nebo
jako paralelní systém. Myslíme sériově, nebo paralelně?
Známý britský evoluční biolog Richard Dawkins přišel s ideou, že naše mozky
jsou kombinací sériového a paralelního přístupu. Dawkins si představoval, že
zatímco na procesoru klasického PC běží úloha ve skutečnosti sériově, byť se
interface tváří navenek jako paralelní multitasking, u lidského mozku je tomu
naopak. Jde o zařízení pracující paralelně, sériovost, tedy ještě jedna úroveň
"seskládání", pak snad odpovídá vzniku vědomí nebo alespoň myšlení, předvídání
apod.
Robert Sternberg ve své knize Kognitivní psychologie uvádí pokusy, jejichž
snahou bylo rozlišit sériové a paralelní zpracování informace. Například si
máte zapamatovat určitá slova. Pokud budou čtyři slova trvat stejně dlouho jako
dvě, pak je úloha řešena paralelně.
Problém však je v tom, že u paralelního zpracování se stejně čeká na
nejpomalejší úlohu, a proto čím více stejných/obdobných úloh, tím delší bude
pravděpodobně ta nejdelší z nich a tím déle bude operace trvat. Předpověď je
tudíž stejná jako u zpracování sériového.
Lze matematicky dokázat, že každý sériově prováděný výpočet lze modelovat
výpočtem paralelním, byť třeba matematika rovnic bude složitější. Vždy existují
paralelní modely, které co do předpovědí simulují ty sériové - a naopak.
Dosavadní experimenty však svědčí pro to, že mozek funguje spíše sériově. Čemuž
by snad mohla napovídat i následující skutečnost: Jak si v jedné úvaze, která
se na stránkách Computerworldu objevila již asi před deseti lety, povšiml Jiří
Peterka, není ani tak problém zkonstruovat paralelní počítač, ale spíše
algoritmizovat úlohy tak, aby se tohoto paralelismu dokázalo smysluplně využít
(z tohoto důvodu se masivně paralelní systémy typu DNA počítačů uplatní jen pro
velmi omezený okruh problémů). Proto se zdá, že přinejmenším na úrovni vědomí
pracuje náš mozek skutečně sériově a paralelismus není tím, co by vývoj systémů
umělé inteligence mohlo samo o sobě nějak posunout.
Speciální okruh námitek proti koncepci vědomí jako softwaru pak představují
problémy vazby vědomí na hardware ("vtělení mysli"). Např. Antonio Damasio ve
své i v češtině vyšlé knize Descartesův omyl polemizuje s tvrzením, že lidské
myšlení můžeme pochopit izolovaně bez vazby na tělo. Descartovský dualismus,
podle kterého jsou mysl i tělo dvě zcela různé entity, je podle Damasia chybný.
V průběhu evoluce se naše inteligence vyvinula právě jako nástroj péče o
fyzický organismus. Současné počítače touto vazbou na svůj hardware ovšem
zřejmě nedisponují.
I proti Damasiovým námitkám se ovšem objevily protiargumenty. Většina lidí
zabývajících se vývojem systémů umělé inteligence patří spíše ke konekcialistům
než k materialistům, tedy předpokládají, že myšlení a vědomí jsou v zásadě
výpočetními procesy a jako takové je možné je simulovat i počítačově. Na rozdíl
od dualistů sice funkcialisté uznávají, že výpočet musí běžet na nějakém
hmotném "substrátu", ale ten pro ně může být víceméně libovolný lidský mozek
stejně jako křemíkový procesor.
Zde se mimochodem objevuje další zajímavý problém: Pokud je proces lidského
myšlení možné realizovat výpočtem, může k tomu dojít i dostatečně dlouhým
přemísťováním kuliček na kuličkovém počítadle? Touto přece jen trochu absurdně
působící představou bychom se už ovšem dostali do oblasti sci-fi (nápad je
velmi zajímavě rozvinut např. v románu Grega Egana Město permutací).
Spor mezi dualisty, materialisty a konekcialisty už ovšem spadá spíše do
oblasti filozofických spekulací a Turingův test byl zkonstruován právě jako
způsob, kterým je možné se filozofii vyhnout. Představa, že lidské vědomí je
software, který může běžet na hardwaru různého typu, každopádně odkazuje k
dalšímu zdroji motivů pro vývojáře umělé inteligence. Do hry pak totiž vstupuje
další odvěký lidský sen naděje na nesmrtelnost.
Tento článek se samozřejmě zaměřil pouze na některé (subjektivně zvolené)
aspekty otázek spojených s umělou inteligencí a Turingovým testem. Vybraným
problémům se na stránkách vědecké rubriky Computerworldu budeme ještě věnovat
podrobněji.

text ON-LINE
Kompletní podobu tohoto článku včetně hypertextových odkazů na další
internetové stránky a kapitoly o chatovacích robotech typu Elizy najdete na
portálu Science World s datem 21. 3. 2003.

Modifikace Turingova testu: Problém realizace
Během více než 50 let, které uplynuly od myšlenky původního Turingova testu, se
samozřejmě objevila řada návrhů na jeho rozšiřování a zdokonalení.
První modifikace vychází z toho, že počítač v Turingově testu simuluje pouze
jednu z mnoha schopností člověka schopnost rozumět jazyku a verbálně se
vyjadřovat, oboje navíc pouze v psané formě. V modifikaci Stevana Harnada by
počítač měl simulovat prostě všechny lidské schopnosti je jasné, že tento
požadavek nesplní "program", ale pouze pokročilý humanoidní robot.
Americký analytický filozof Daniel Dennett hovoří v souvislosti s umělou
inteligencí o potřebě "intenciality" a "účelnosti". Lidský intelekt je poháněn
vůlí a chtěním, přičemž tyto vlastnosti jsou důsledkem dlouhé biologické
evoluce (přežily ty organismy, které se chovaly tak, jako by na svém přežití
"měly zájem"). Myšlení není pouze mechanické, ale směřuje k nějakému účelu.
Počítač by tedy podle Dennetta měl být nejen schopen projít testem, ale měl by
o to i sám usilovat, měl by mít své vlastní cíle. Turingova původní simulace
mířila k otázce, zda stroj může myslet, ne zda může také chtít, podle Dennetta
je však těžké myšlení a chtění od sebe oddělit.
Další verze modifikací se točí kolem tvrzení, že člověka nečiní inteligentním
použití jazyka, ale fakt, že jazyk sám v minulosti vyvinul (respektive jej
vyvinuli naši předkové). Paul Schweizer proto soudí, že bychom měli nechat
počítač, aby sám zkonstruoval jazyk či navrhl pravidla pro hru typu šachů. A
nakonec snad i sám přišel s myšlenkou Turingova testu čímž by jej automaticky
splnil.
Poměrně bizarní jsou různé "inverzní" Turingovy testy, kdy v roli posuzovatele
je sám počítač. Cílem počítače je pak odlišit člověka od jiného počítače,
eventuálně dojít k závěru, že sám je nikoliv člověk, ale počítač.
Problémem modifikovaných verzí Turingova pokusu je obvykle jejich obtížná
praktická realizovatelnost. Na rozdíl od původní varianty zůstanou proto zřejmě
v rovině experimentů pouze myšlenkových.

Alan Turing
Autor testu a jeden ze zakladatelů vědy o umělé inteligenci. Narodil se v roce
1912, vzdělání získal na Královské koleji v Cambridge a na univerzitě v
Princetonu. V roce 1936 sestavil koncepci obecného počítače, tzv. Turingova
stroje. Za druhé světové války se podílel na prolomení šifry, kterou vytvářel
německý šifrovací systém Enigma. Po druhé světové válce se začal podrobněji
zabývat otázkami umělé inteligence a prvními neuronovými sítěmi. V roce 1950
zveřejnil slavný Turingův test, v dalších letech se zabýval matematickým
popisem biologických (obecně nelineárních) systémů. V roce 1952 byl zatčen pro
homosexualitu a o dva roky později spáchal sebevraždu požitím kyanidu (podle
http://www.turing.org.uk).

Zdroje na internetu
http://crl.ucsd.edu/~saygin/papers/tt.pdf Turingův test po 50 letech. Rozsáhlá
práce, která inspirovala i název tohoto článku.
http://www.turing.org.uk/turing/ "Domovská stránka" Alana Turinga, mj. i
životopis tohoto britského matematika.
http://www.macrovu.com/CCTGeneralInfo.html Turingův test jako obrovská mapa.
http://www.longbets.org/1 Podaří se sestavit počítač, který vyhoví Turingovu
testu, do roku 2029?
http://www.cuni.cz/%7Eperegrin/stroje.htm Mohou stroje myslet? Přehled odkazů
doporučovaných ke stejnojmennému semináři, který právě probíhá na pražské FF UK.
http://www-ai.ijs.si/eliza/eliza.html Jedno z dotazovacích okének pro Elizu,
program simulující psychoterapeuta.
http://www.stanford.edu/group/SHR/4-2/text/dialogues.html Konverzace mezi
Elizou a dalším programem jménem Parry ten tentokrát simuluje paranoidního
pacienta.
http://www.scienceworld.cz/sw.nsf/page/cinsky_pokoj Námitky proti Searlově
představě "čínského pokoje".

Co číst dál?
Paul Tahagard: Úvod do kognitivní vědy, Portál, Praha, 2002
Kolektiv autorů: Umělá inteligence několikadílná učebnice, kterou postupně
vydává nakladatelství Academia
Daniel Dennett: Druhy myslí, Archa, Bratislava, 1997
Robert Sternberg: Kognitivní psychologie, Portál, Praha, 2002
Roger Penrose: Makrosvět, mikrosvět a lidská mysl, Mladá fronta, Praha, 1999
František Koukolík: Machiaveliánská inteligence, Makropulos, Praha, 1999
František Koukolík: Mozek a jeho duše, Makropulos, Praha, 1997
Greg Egan: Město permutací, Návrat, Brno, 2002









Komentáře
K tomuto článku není připojena žádná diskuze, nebo byla zakázána.