Počítače se budou řídit vlastní inteligencí

Ministerstvo obrany USA podporuje projekty, v jejichž rámci jsou vyvíjeny počítače schopné vědomě reagovat na určit


Ministerstvo obrany USA podporuje projekty, v jejichž rámci jsou vyvíjeny
počítače schopné vědomě reagovat na určité situace. Uplatnění by měly najít
nejen v armádě, ale také v civilním sektoru.
Každý fanoušek sci-fi dobře ví, že jakmile si počítače začnou uvědomovat samy
sebe, nakonec zničí své stvořitele. Ať už se podíváme na film 2001: Vesmírná
Odysea, na Terminátora nebo na řadu dalších, poselství je jasné: Jediným dobrým
strojem, který je schopen si uvědomovat sám sebe, je ten, který je vypnutý.
Možná, že už brzy zjistíme, zda je výše uvedené tvrzení pravdivé. Agentura
DARPA (Defense Advanced Research Projects Agency) zpracovala první návrhy na
vytvoření systémů, které zvládnou pochopení reality a tak budou skutečně vědět,
co vlastně dělají.
Půjde o tzv. systémy schopné poznání (cognitive systems). Představitelé
agentury DARPA si je představují tak, že budou schopny využívat různé cesty k
porozumění daným okolnostem, budou získávat zkušenosti, podle nich upravovat
své chování a nebude pro ně problém adaptovat se na nepředvídané situace.
Takový poznávací systém si bude vědom svého chování a bude schopen se jasně
vyjadřovat o daném problému. Rovněž bude disponovat schopností předpovídat
různé scénáře následných událostí a určovat jejich pravděpodobnost, případně
generovat dosud nepředstavitelné vize budoucnosti.
"Celý výzkum se pohybuje směrem k naplnění této velké vize, v jejímž rámci
umělá inteligence nebude člověku škodit, ale pomáhat," říká Raymond Kurzweil,
guru v oblasti umělé inteligence a CEO společnosti Kurzweil Technologies.
"Pokud se rozhodneme nové systémy použít v autonomních zbraních, potom pro ně
bude jistě užitečné, budou-li inteligentní," dodává.

Cesta změn
Vznik poznávacích systémů bude vyžadovat revoluční změny v současné cestě
evoluce počítačových technologií. V jejím rámci totiž dochází jen k růstu
složitosti systémů a ke zvyšování hrubého výkonu, snižuje se však jejich
odolnost a nevzniká revolučně nová kvalita.
"Chceme vymyslet zásadní, nikoliv jen evoluční zdokonalení. Jakou ale zvolit
cestu, abychom udělali obrovský skok kupředu?" ptá se Ronald J. Brachman, šéf
kanceláře pro technologie zpracování informací u DARPA. Právě Brachman má na
starosti řízení iniciativy této agentury týkající se vývoje poznávacích systémů.
"Cílem je vytvořit systémy, které se o sebe lépe postarají, a někteří výrobci
již v této oblasti udělali určité pokroky," poznamenává Brachman. Software,
který sám sebe automaticky testuje, je podle něj krokem správným směrem. Za
dobrý směr vývoje považuje i software, který sám sebe chrání jakýmsi ochranným
valem, aby v případě, že selže, nenarušil funkci celého systému.
"Přidejte k tomu pokroky v rozpoznávání řeči a ve strojovém učení, a možná
zjistíte, že už je vlastně k dispozici dost malých kousků, které vytvoří
kritickou masu potřebnou pro skutečný průlom," vysvětluje Brachman.
"Jakmile máte dost skutečně chytrých lidí, kteří pracují na opravdu složitém
problému, pak můžete získat výstupy, které jste patrně vůbec nečekali," dodává.
"Samozřejmě také doufáme, že budeme mít i trochu štěstí."

Komplikované problémy
Je zjevné, že štěstí budou výzkumníci potřebovat. Problémy, které je třeba
vyřešit, se jeví jako nesmírně komplikované. Jde například o zodpovězení otázek
jako:
Jak se může poznávací systém učit ze zkušeností a jak použít takto získané
poznatky k tomu, aby si poradil se zbrusu novými situacemi?
Jak je třeba prioritizovat dané příkazy, jestliže dostane komplexní a do jisté
míry třeba i vzájemně protichůdné cíle?
Jak může rozpoznat důležité události, které se ovšem vyskytnou s malou
frekvencí, mezi ohromným objemem nashromážděných dat?
Jak bude moci využít kontextu, aby rozšifroval komplexní události, se kterými
se setká?

Optimismus
Navzdory všem problémům je Brachman optimistický. "DARPA je schopná dohlédnout
za běžné horizonty, a proto může dát její výzkum pozitivní výsledky," říká.
"Jestliže uspějeme, můžeme dramatickým způsobem změnit dnešní svět."
Kurzweil souhlasí. "Výzkumy DARPA bývají vizionářské, a ačkoli se zaměřuje na
hledání stavebních kamenů pro zbraňové systémy budoucnosti, existuje také
široký prostor pro jejich nasazení v běžném životě," říká. Výzkum a vývoj DARPA
v oblasti pokročilých komunikací vedl např. ke vzniku internetu. Její pokroky v
oblasti rozpoznávání vzorů daly vzniknout technologii, která pomáhá nejen vést
řízené střely, ale třeba také číst elektrokardiogramy a detekovat počítačové
podvody. Pokroky ve výzkumu počítačového vidění, který DARPA sponzoruje, mají
zřejmou hodnotu pro satelity a vojenská letadla, ale také pro roboty u
výrobních linek v továrnách.
Brachman předpokládá, že by poznávací systémy mohly pomáhat vojákům pověřeným
nebezpečnými úkoly, případně je v některých oblastech zcela nahradit. Podobně
by mohly být užitečné jako pomocníci nebo náhrada civilních osob zodpovědných
např. za řešení problémů s toxickými materiály nebo při katastrofách.
V současnosti není možné obecně předprogramovat inteligentní reakci stroje na
každé nebezpečí, ale poznávací systém by měl být schopen zvážit velké množství
komplexních proměnných a navrhnout své vlastní řešení. Systém, který si dokáže
představit množství různých scénářů, by mohl v budoucnosti třeba i přechytračit
teroristy nebo vaše obchodní soupeře vymýšlením akcí, které by bylo možno
zrealizovat. Současně by každou z navržených akcí ohodnotil hlediska její
přijatelnosti a dopadu.

Lepší než lidé
"Lidé mohou být zaslepeni svou předchozí zkušeností, případně svou chutí nebo
nechutí k určitému řešení," poznamenává Brachman, "ale počítače nemají žádné
předsudky a tak mohou lidem ukázat, že je možno vymyslet velmi odlišná řešení."
Samovysvětlující a samoopravující se systémy nebudou navíc potřebovat žádný
trénink a jen malou údržbu. Budou se učit a nikoli selhávat, když budou
postaveni tváří v tvář nové situaci.
Ale co HAL 9000 a další počítače z oblasti science fiction, které se vzbouřily?
"V každém druhu technologie existují i určitá rizika," připouští Brachman. To
je také důvod, proč DARPA oslovuje kromě počítačových vědců také neurology,
psychology a dokonce i filozofy. "Nevydáváme se slepě na nějakou neurčitou
cestu," říká Brachman. "Jsme si velmi dobře vědomi možných problémů."
Projekt má naplánovánu dobu trvání na 3 až 5 let, což je podle Brachmana
dostatečně dlouho na to, aby se prokázala přijatelnost a hodnověrnost celého
konceptu. "Nečekáme, že během čtyř let budeme mít před sebou dospělého umělého
asistenta," říká, "ale mělo by to být dostatečně dlouho na to, abychom získali
nějaké konkrétní indikace, že je možné naplnění těchto snů."









Komentáře
K tomuto článku není připojena žádná diskuze, nebo byla zakázána.