Již dlouho zde na blogu nebyl žádný paradox, což je na čase napravit. Dnešní téma spíše přirozeně navazuje na nedávné příspěvky o svobodné vůli, jelikož se týká myšlení strojů. Budu mluvit o Searlově "argumentu čínského pokoje".
Pokud člověk nevěří, že lidské myšlení je nadpřirozený či magický proces, pravděpodobně připustí, že dostatečně výkonný počítač vybavený vhodným softwarem může být umělou inteligencí. Jak již bývá zvykem v podobných případech, přesný význam slova inteligence je předmětem rozepří. Jelikož nemohu dost dobře rozebírat všechny definice, které pro inteligenci existují, přijmu pro účely tohoto příspěvku jedno z šíře uznávaných kritérií na rozpoznání inteligence, kterým je Turingův test. Alan Turing navrhl tento test již v roce 1950 jako způsob, jak objektivně hledat odpověď na otázku zda stroje myslí:
[Účastní se] tři lidé. Muž (A), žena (B) a vyšetřovatel (C) [...]. Vyšetřovatel je v oddělené místnosti od zbylých dvou. Cílem [testu] je, aby vyšetřovatel zjistil, který z nich je muž a která je žena. Vyšetřovatel je zná pod oxnačením X a Y, a na konci řekne buď "X je A a Y je B", nebo "X je B a Y je A". Vyšetřovatel může A a B klást otázky, jako: "Může mi prosím X sdělit délku svých vlasů?" Předpokládejme, že X je ve skutečnosti A, pak A musí odpovědět. Úkolem A je snažit se přinutit C zmýlit se v identifikaci. [...] Úkolem B naopak je pomáhat vyšetřovateli. [...] Nyní si položme otázku: co se stane, pokud stroj převezme roli A v tomto [testu]? Rozhodne se vyšetřovatel špatně stejně často za těchto okolností, jako když se [testu účastní] muž a žena? Tyto otázky nahrazují naše původní "Mohou stroje myslet?" [1]
Originální Turingův test byl později různě přeformulováván a byly vymýšleny všeliké variace. Jádro ale zůstává stejné: Místo abychom se ptali, zda stroje myslí, či zda jsou inteligentní, ptejme se, zda stroj je schopen ošálit člověka při čistě verbální komunikaci, předstíraje, že je sám člověkem.
Turingovu testu lze vytýkat subjektivitu: používá lidského vyšetřovatele, a výsledek testu může silně záviset na vyšetřovateli. Někteří lidé se na funkci vyšetřovatele evidentně nehodí. Program ELIZA z poloviny šedesátých let údajně přesvědčil část lidí o tom, že je člověkem, a někteří odmítali uvěřit, když jim bylo sděleno, že komunikovali s jednoduchým automatem. [2] Přesto, alespoň průměrně inteligentní a poučený člověk se těžko nechá nachytat jakýmkoli v současnosti existujícím programem. ELIZA je sice o něco lepší než podobný program mluv.exe, kterým jsme se bavili na dvěosmšestkách na základní škole, ale pokud se byť jen trochu snažíte sledovat smysl konversace, velmi rychle se její prázdnota projeví. [3] Turingův test stále zůstává přijatelným způsobem, jak zjistit, zda stroje myslí.
Výše zmíněný filosof John Searle je však jiného názoru. Podle něho jsou otázky "mohou stroje myslet" a "mohou stroje ošálit člověka v Turingově testu" dvě oddělené otázky. Stroj sice může simulovat myšlení, a následně proto projít Turingovým testem, ale přesto se nebude jednat o "pravé" myšlení. Stroj sice bude odpovídat na otázky, ale nebude rozumět jejich obsahu. Jeho inteligence bude pouze chytrou iluzí. Argument je následující:
Dejme tomu, že existuje program X, který je schopen plynně komunikovat v čínštině [4], a to tak, že projde Turingovým testem. V principu nic nebrání vzít zdrojový kód a vytisknout jej na papír. Pokud chceme, můžeme instrukce zdrojového kódu přepsat do lidského jazyka (jakéhokoli kromě čínštiny) a najmout si otroka ovládajícího tento jazyk (ale ne čínštinu), který by pak instrukce vykonával. Otroka uzavřeme do pokoje spolu s výtiskem našeho čínského algoritmu a pořádným štosem čistých papírů a nevypsaných propisek, aby měl kde a jak dělat pomocné výpočty. Nyní necháme ke dveřím pokoje přicházet Číňany, kteří napíší na papír otázku a podsunou ji pode dveřmi. Otrok je instruován vnímat podsunuté otázky jako vstup do čínského algoritmu. Začne tedy mechanicky vykonávat instrukce, které má vytištěné při ruce, a v konečném čase jej tento postup přivede k obkreslení jistých znaků, které podstrčí pode dveřmi zpět. Předpokládali jsme, že program X je schopen smysluplné konversace. Jelikož otrok zavřený v pokoji vykonává tentýž algoritmus, jeho výstup se nemůže lišit od výstupu programu X. Vezme-li si tedy Číňan zpět ven prostrčený papír, přečte na něm smysluplnou odpověď na svou otázku. Z hlediska Číňana se zdá, že čínský pokoj obsahuje něco, co rozumí čínsky.
Kde je ale schováno porozumění čínštině? ptá se Searle. Jediná složitější součást celého mechanismu je otrok, zbytek je jen kupa papírů a propisek. Jenže otrok podle předpokladů čínsky nerozumí; pouze mechanicky sleduje instrukce. Je tedy jasné, říká Searle, že jsme zkonstruovali něco, co nepochybně nerozumí čínsky, ačkoli to projde testem. Čínský pokoj vytváří iluzi porozumění, podobně jako program ELIZA, pouze dokonaleji; ve skutečnosti ale nepřemýšlí: copak mohou propisky a papíry rozumět čínsky? Jelikož program X funguje úplně stejně jako čínský pokoj, ani on nemůže ve skutečnosti rozumět čínsky. Ergo, umělá inteligence je nemožná. Můžeme sice, teoreticky, sestrojit stroje, které budou svým chováním neodlišitelné od lidí, ale tyto stroje budou vždy myšlení pouze simulovat, namísto toho, aby opravdu myslely.
Argument čínského pokoje je ovšem paradoxem svého druhu. Předpokládáme-li, že funkce lidského mozku lze popsat deterministickými fyzikálními zákony, pak jej lze téměř jistě modelovat pomocí programu, a tento program potom vykonávat manuálně ve stylu čínského pokoje. Plyne z toho, že ani lidé skutečně nemyslí, ale pouze myšlení simulují? Pokud tomu tak je, pak ale rozlišování myšlení a jeho simulace má pramalý smysl.
Jednoduchou cestu ven nabízí dualismus - tj. pohled, který mysl (či duši) považuje za oddělenou věc od fyzické podstaty mozku. Pokud má dualismus smysl, je rozdíl mezi člověkem a strojem daný jednoznačně přítomností duše. Searle ale není dualistou, naopak trvá na tom, že opravdové myšlení je podmíněno chemicko-fyzikální podstatou mozku, a že naopak představa myslících strojů je podmíněna dualismem.
V příštím díle se zaměřím na protiargumenty a možná rozřešení popsaného paradoxu.
Poznámky:
1. A.Turing, Computing machinery and intelligence (v časopise Mind), 1950. Můj zkrácený překlad je z citace uvedené v knize A. Hofstadtera Gödel, Escher, Bach. Turing místo o testu mluvil o hře (název Turingův test se vžil až později), v překladu jsem toto upravil pro lepší plynulost textu.
2. Autor programu Weizenbaum píše: ELIZA vytvořila pozoruhodnou iluzi porozumění v myslích mnoha lidí kteří s ní konversovali. ... Často vyžadovali, abych je nechal konversovat s ní v soukromí, a poté, co nějaký čas konversovali, navzdory mému vysvětlování trvali na tom, že jim stroj skutečně rozuměl.
3. ELIZU možno vyzkoušet online. Moje pokusná konversace je uvedena níže.
4. Pochopitelně je volba čínštiny zde zcela libovolná, program by klidně mohl komunikovat baskicky.
Turingův test v praxi - konversace s programem ELIZA.
ELIZA: Hello. How do you do. Please state your problem.
Já: I am sick.
E: I am sorry to hear that you are sick.
J: Yes.
E: You seem to be quite positive.
J: Not at all.
E: I'm not sure I understand you fully.
J: Well, we are at the beginning of the conversation and I haven't said that much yet...
E: Did you think they might not be at the beginning of the conversation and you haven't said that much yet
J: Who do you mean?
E: We were discussing you -- not me.
J: Certainly, but you haven't answered my question.
E: You are sure.
J: Jdi do prdele.
E: Please go on.
J: Jdi do prdele.
E: What does that suggest to you ?