Jak chcete naprogramovat prožitek?

Jakým způsobem jste se vlastně dostal k počítačům? To je tak trochu náhoda. Jediná VŠ, kterou jsem i v době relativn...


Jakým způsobem jste se vlastně dostal k počítačům?
To je tak trochu náhoda. Jediná VŠ, kterou jsem i v době relativního
politického uvolnění v 60. letech mohl studovat, byla technika. Přihlásil jsem
se tedy na elektrotechniku. Zrovna v té době se u nás začaly vyučovat i
počítače (respektive říkalo se tomu postupně různě kybernetika, výpočetní
technika, posléze informatika...); na naší fakultě se to skrývalo pod oborem
jménem Automatizace.
V letech 1969-71 jsem pak pobýval v zahraničí a získal doktorát na univerzitě v
Berkeley (University of California at Berkeley) právě z oboru počítačových věd.
V Berkeley jsem se zabýval nejprve teorií automatů a posléze teorií formálních
jazyků. Šlo o obor, který si v té době získal pozornost mimo jiné pro
souvislost se syntaktickou analýzou softwarového kódu. Já jsem vždycky tíhl
spíše k teoretickým předmětům, takže má dizertace se týkala spíše matematické
teorie formálních jazyků.

S kým jste se v Berkeley seznámil?
Z těch, kteří jsou nyní známí i mimo úzký okruh odborníků, bych namátkou zmínil
Jima Graye, což je člověk, jenž je dnes zaměstnancem Microsoftu a nedávno
přišel s koncepcí "digitální nesmrtelnosti". Zhruba řečeno jde o myšlenku
budovat jakési virtuální reprezentace živých lidí a jejich prostřednictvím
zpřístupnit "odkaz" člověka i po jeho smrti (poznámka redakce: tímto tématem
jsme se zabývali např. v CW 23/2003 v článku "Avatar nás přežije").
Také si vzpomínám na Barbaru Grossovou, která tam studovala se mnou. Nyní je
profesorkou umělé inteligence na MIT a zabývá se teorií dialogu v přirozeném
jazyce.

Přejděme nyní přímo k tomu, čím se na poli IT zabýváte především, tedy k umělé
inteligenci a kognitivní vědě. Řada čtenářů možná ještě termín "kognitivní
věda" nikdy neslyšela, mohl byste jim ho přiblížit?
Myslím, že mezi tradičními vědami se jedná o velice pozoruhodný směr.
Kognitivní věda je věda o mysli, o myšlení. Samozřejmě filozofové či
psychologové se o tyto věci zajímali už dávno, ale z trochu jiné strany. Nyní
přišly koncepty umělé inteligence, počítačové modelování a na druhé straně se
např. díky různým skenovacím technikám zvětšily také naše vědomosti o tom, jak
pracuje lidský mozek. Došlo prostě k propojení řady metod a jednotlivých oborů,
které by dříve hledaly společnou řeč pouze obtížně. To mi samozřejmě připadá
velmi zajímavé.
Stále ale zůstávají problémy nakolik spolu biologové, lingvisté, kybernetici či
filozofové dokáží alespoň nějaký společný jazyk udržet i nadále a nakolik bude
takové spojení plodné? Dnes samozřejmě přesně nevíme, jakým směrem se bude
tento obor dále ubírat. Vezměte si ale, že z podobně zdánlivě zcela
heterogenních zdrojů se před více než půl stoletím zformovala i samotná
kybernetika.
(Poznámka redakce: článek Úvod do kognitivní vědy zpracovaný na základě
stejnojmenné knihy Paula Thaggarda vyšel v CW 41/2002. Ivan M. Havel a Jozef
Kelemen psali k této knize předmluvu.)

V souvislosti s kognitivní vědou je občas hledáno nějaké nové paradigma, pokus
spojit vědecký přístup se subjektivním prožíváním. Výsledkem jsou různé
koncepce jako "věda v první osobě", neurofenomenologie apod. Jaký je váš názor
na tyto snahy?
Samozřejmě že výzkum vědomí je v rámci kognitivních věd velmi populární. Ale
uvědomte si, že v tomto případě je vlastně těžké mluvit o vědě. Vědomím na
tomto místě nemyslím opak bezvědomí v klinickém slova smyslu, ale spíše naše
vnitřní prožívání, něco, co je "objektivnímu" pohledu zvnějšku vlastně z
podstaty věci nepřístupné. K tomuto tématu má velmi blízko fenomenologická
větev filosofie, která je u nás významně zastoupena díky Janu Patočkovi a jeho
žákům.
Konkrétně neurofenomenologii pak pokládám za velmi zajímavý směr, který se
právě snaží přece jen nějak propojit empirické vědecké metody s filozofickým
zkoumáním. Není to však zatím směr převládající.
(Poznámka redakce: O neurofenomonelogii, heterofenomenologii a "vědě v první
osobě" viz také např. článek Marka Petrů dostupný na www.scienceworld.cz.)

Až dosud jsme mluvili především o lidském myšlení. Jaký to má vztah k umělé
inteligenci?
Pokud porozumíme tomu, jak se lišíme od současných počítačů, může to
představovat významný impuls i pro tvůrce umělé inteligence. Jeden z rozdílů,
kterého si kybernetici povšimli, spočívá v tom, že organismy žijí v přirozeném
prostředí, zatímco počítače, respektive software, sídlí v prostředí virtuálním.
Ale robot už zase ne, ten už opět přebývá "ve světě". Robot je vlastně stále
počítač, na jeho vstupu už ovšem nejsou data, ale svět.
V průběhu vývoje oboru umělé inteligence se samozřejmě vystřídala celá řada
směrů, dlouho převládal funkcionalismus, pak se objevil konekcionismus
(především v souvislosti s nástupem neuronových sítí). To jsou vesměs věci
dobře známé, zajímavé však je, že nyní se možná nějak propojí i tyto dva
přístupy.
Ale přesto si myslím, že zde při vývoji inteligentních umělých systémů narazíme
na určité limity, dané mj. právě existencí vnitřních prožitků. Jak je chcete
naprogramovat? Podle mého názoru vlastně nevíme, co bychom měli vytvořit.
"Prožitek" může jen těžko představovat zadání pro programátora...

Takže jste přesvědčen, že počítače onoho, řekněme, vědomí nebo subjektivity
nedosáhnou?
Myslím, že ne, ale nemám, jak bych své stanovisko odůvodnil. Především to
eventuální "vnitřní prožívání počítače" zvenku stejně nepoznáme.
Pak zde zůstává např. ještě dosti zajímavá otázka "intencionality", tedy
záměrného jednání. Představte si to třeba následujícím způsobem. Ptáme se, zda
počítače dokáží hrát šachy. S takovým tvrzením by leckdo souhlasil, vždyť
šachové programy skutečně porážejí nejlepší lidské velmistry. Ale co to v
jejich podání znamená?
Znamená to snad, že třeba šachy hrát chtějí? Že mají radost, když v partii
zvítězí? To jistě ne proto v našem lidském slova smyslu šachy vlastně nehrají,
podobně jako by je nehrál člověk, který by figurkami pouze nezúčastněně
posouval podle nějakých dopředu připravených tabulek. Minimálně by to nebyla
žádná "hra".
Takže je zase třeba upřesnit, co myslíme tím, že počítač dejme tomu hraje šachy
nebo dělá něco jiného včetně toho zmíněného myšlení často se tyhle různé
diskurzy příliš nerozlišují a výsledkem mohou být četná nedorozumění.
Aby to ale nevypadalo, že jsem v oblasti umělé inteligence jen a pouze
pesimistický. Složité systémy samozřejmě vykazují celou řadu tzv. emergentních
(= z nižších úrovní nevyplývajících) jevů, které můžeme jen těžko dopředu
předvídat, modelovat apod. Zítřejší systémy umělé inteligence si snad "v sobě"
či "ze sebe" vytvoří leccos pozoruhodného (a nejspíš si to i vytvoří), pouze
pochybuji, že by to nějak přímo odpovídalo tomu, jak své vědomí prožíváme my
sami.

V oboru umělé inteligence existuje celá řada různých metafor a myšlenkových
experimentů Turingův test, Chalmersova zombie, Čínský pokoj... Jaký z těchto
modelů máte v oblibě a jaký je podle vás naopak zavádějící?
Všechny tyto myšlenkové experimenty jsou svým způsobem podnětné. Pouze vždy
musíte vědět, o čem vlastně vypovídají, promyslet jejich souvislosti, to, co z
nich eventuálně dále vyplývá a mít napaměti, že vždy mají své hranice. Třeba
ten výše uvedený případ s počítačovým šachem ukazuje na limity Turingova testu.

Zmínil jste, že oproti "klasickým" počítačům by nám mohli být podobnější
roboti, protože také pobývají v přirozeném světě. Jaký máte názor na Kevina
Warwicka, který je dnes zřejmě nejmediálnějším výzkumníkem na poli robotiky,
téměř by se dalo říci robočlověkem?
Warwicka znám osobně, je to fajn člověk, ale jeho knihy jsem už opakovaně
kritizoval...

Souhlasíte s tím, že je to spíše show, prostě pouťová věda?
Ano, je to trochu vypočítané na efekt. Warwick patří k lidem, kteří se svými
přednáškami objíždějí svět; když jsem ho slyšel, neřekl nic opravdu
převratného, měl s tím nicméně ohromný úspěch. To ovšem také patří k dnešní
vědě, tak se ona živí.
Mně jde ale spíše o něco jiného: Warwickovy knihy mají takovou, jak to říct,
"primitivní logiku". On třeba začne s tím, že stroje budou brzy obsahovat více
prvků, než má člověk neuronů, a proto budou inteligentnější. A pak pokračuje:
Protože stroje budou inteligentní, budou chtít ovládnout svět (takže
předpokládá, že touha po moci je nutným průvodním projevem inteligence). A
protože se přitom střetnou s člověkem a protože budou inteligentnější než on,
tak ho ovládnou.
Rozumějte mi dobře já samozřejmě nemohu vyloučit, že něco podobného skutečně
nastane. Ale způsob, jakým to Warwick odvodí, ta jakási "samozřejmost" jeho
výkladu, když každý z nastíněných problémů je ve skutečnosti docela sporný to
nepokládám za právě seriózní přístup.

A koho byste tedy doporučil našim čtenářům k dalšímu studiu? Jiný z vašich
kolegů, profesor Jozef Kelemen, připravil pro Computerworld materiál o Marvinu
Minském. Co si myslíte o něm?
Sleduji Minského myšlenky od 60. let, kdy se ještě zabýval spíše matematikou
než umělou inteligencí. Za velmi zajímavou pokládám např. jeho knihu Society of
Mind kooperativnost může skutečně s lidskou inteligencí úzce souviset. Právě
čtu rukopis jeho nové knihy "Emoční stroj" z názvu vidíte, oč mu asi jde.
(Poznámka redakce: V knize Society of Mind pokládá Marvin Minsky lidskou mysl
za jakési společenství specializovaných výpočetních agentů podrobnosti viz CW
9/2004. Rukopis knihy Emoční stroj viz web.media.mit.edu/~minsky/.)

Když jsme asi před rokem na stránkách Computerworldu (18/2003) hovořili o
kognitivní vědě s profesorem Jaroslavem Peregrinem, přiznal se k oblibě knih
Daniela Dennetta.
Dennett píše také čtivě, ale v mnoha ohledech s ním nesouhlasím. Když to velmi
zjednoduším, je to redukcionista, který pokládá vědomí za jakousi iluzi,
vytvořenou paralelními procesy v našem mozku.

A koho byste ještě doporučil?
Johna Searla. V řadě věcí se neshodnu ani s ním, ale píše pěkně a jeho texty
pokládám za inteligentní.
Obecně: Knihy, které o možnostech vědeckého přístupu k vědomí vycházely a
vycházejí, bývají často hodně spekulativní (čímž nemám na mysli
science--fiction); za pozornost v tomto ohledu stojí třeba Roger Penrose, který
si vysloužil odpor z řady stran, ale dá se na něm ocenit odvaha, s níž své
provokativní názory formuloval. I mezi takovými na pohled výstředně působícími
ideami pak nakonec na "burze nápadů" často vykrystalizuje něco, co má hlavu a
patu... (Poznámka redakce: Matematický fyzik a spolupracovník Stephena Hawkinga
Roger Penrose přišel mj. s teorií o nealgoritmickém charakteru lidského
myšlení; navrhl také, že lidský mozek by mohl fungovat na principu kvantového
počítače.)

Myšlenkové experimenty
Turingův test Matematik a kybernetik Alan Turing přišel s myšlenkou, že za
"myslící/inteligentní" můžeme stroj prohlásit tehdy, pokud jeho chování
nedokážeme odlišit od chování živého člověka. V omezeném prostředí aspirují
dnes na splnění Turingova testu např. některé automatické konverzační systémy.
Turingův test je behavioristický v tom smyslu, že se nezabývá vnitřními stavy
zkoumaného systému, ale pouze jeho navenek pozorovatelným chováním.
Čínský pokoj Filozof John Searle přišel s námitkou proti počítačovému myšlení;
stojí na přesvědčení, že pokud podle nějakých pravidel dokážeme manipulovat se
symboly (např. jako reakci na čínské znaky podstrkované pode dveřmi uzavřeného
pokoje vracet zpět jiné čínské znaky), ještě to neznamená, že jsme nadáni
nějakou inteligencí, porozuměním nebo vědomím (např. vůbec nemusíme rozumět
čínsky). Searlův argument dnes většinou není pokládán za příliš přesvědčivý.
Chalmersova zombie D. J. Chalmers přišel s koncepcí tzv. zombií, tedy bytostí,
které se chovají "rozumně", aniž by však zažívaly jakékoliv vnitřní stavy
"vědomí". V provokativně vyostřené podobě tohoto myšlenkového experimentu
uvažujeme, že jisti si můžeme být pouze svým vlastním vědomím. Nakonec tedy
nelze vyloučit, že všichni ostatní kolem nás (programy, roboti, zvířata,
lidé...) jsou zcela bezduché automaty.
Konekcionismus Přesvědčení, že vlastnosti, jako je např. inteligence,
vyvstávají (emergují) z paralelních systémů na určitém stupni jejich
složitosti. Vlastní prvky přitom mohou být jednoduché a totéž platí pro
interakce mezi nimi. Ve světě počítačů souvisí konekcionismus např. s výzkumem
neuronových sítí nebo celulárních automatů.
Funkcionalismus Někdy nazývaný také silná (klasická) umělá inteligence, je
přesvědčení, že mysl je totožná se softwarem/algoritmem a nezávislá na
konkrétní hardwarové realizaci. Křemík může být pro inteligenci stejně vhodným
"nosičem" jako složité biochemické molekuly, tvorbě umělé inteligence nestojí v
cestě žádné principiální překážky.
Podrobnosti o myšlenkových experimentech a různých směrech v oblasti umělé
inteligence jsme přinesli např. v CW 11/2003, speciálně na Alana Turinga jsme
se zaměřili v CW 15/2003. Všechny tyto články jsou dostupné v archivu
Computerworldu na www.cw.cz/cwarchiv.nsf

Šachové programy a myšlení nahlas
Existuje několik přístupů k chápání různých počítačových dovedností. Ukažme si
to na případu hraní šachů. Behavioristicky pojato počítače hrají šachy tehdy,
když dokáží obstát proti lidskému protivníkovi, eventuálně pokud nedokážeme
odlišit hru programu od (např.) hry velmistra. Druhý přístup (v podstatě
zastávaný v tomto rozhovoru) dává hraní šachů do souvislosti spíše s vnitřním
prožitkem, s tím, že hráč má zájem na výsledku, chce vyhrát, při hře se např.
baví atd. Tímto způsobem nahlíženo nám vyjde, že současné počítače šachy v
pravém slova smyslu nehrají a budoucí vývoj na tom sotva něco změní.
Existuje ještě zajímavá třetí kompromisní možnost. Budeme citovat prof. RNDr.
Jaroslava Peregrina, CSc., z textu, který vyšel v časopisu Vesmír (5/1998):
Co vede šachistu k tomu, že táhne tak, jak táhne, může každý z nich alespoň
částečně vyjádřit slovy (a tím to učinit součástí svého chování). Když ho
například požádáme, aby "myslel nahlas", může to vést k nějakému takovému
monologu jako "Vidím otevřený sloupec D, takže přemýšlím, že bych tam mohl
přesunout věž, aha, ale vidím, že bych si odkryl pěšce, který je napaden
soupeřovým střelcem." Mohli bychom tedy chtít, aby stroj, který má "myslet jako
šachista", nejen tahal jako šachista, ale i nějakým způsobem reprodukoval
postup, jímž šachista k tahům dochází a který vyjadřuje, když myslí nahlas. Tím
dáváme úsilí naučit stroj "myslet jako člověk" určitý jasný smysl, nezávislý na
otázce, co to vlastně myšlení je můžeme se vždy utéci k odpovědi, že stále
jenom modelujeme chování, teď ale chování, kterému říkáme "myšlení nahlas".
Současné šachové programy pracují téměř výhradně metodou hrubé síly (brute
force), která vlastně znamená pokus o analýzu veškerých možností (stromů hry).
Postup, kterým dnešní šachové algoritmy dojdou k optimálnímu tahu, vůbec
neodpovídá myšlení živého šachisty.

Co číst dál
Stať Ivana M. Havla "Přirozené a umělé myšlení jako filozofický problém"
najdete na adrese www.cts.cuni.cz/reports/1999/CTS-99-11.htm. Text vyšel v
tištěné podobě jako součást sborníku Umělá inteligence 3 (Academia, Praha,
2001). Odkazy na další materiály najdete přímo v textu.









Komentáře
K tomuto článku není připojena žádná diskuze, nebo byla zakázána.