Ve zkrácené podobě představený argument "čínského pokoje" vypadá následovně: Otrok, který se nachází v dotyčném pokoji, nerozumí čínsky. Jinak se ve zbytku pokoje nacházejí věci, které jsou samy o sobě pasivní: tužky, papíry, výtisk čínského algoritmu. Je zjevné, že ani tyto věci nerozumějí čínsky. Nic tedy nerozumí čínsky, ačkoli celý systém se chová tak, jako by rozuměl.
Standardní protiargument je, že se jedná o standardní skládací chybu. To, že části nějakého mechanismu postrádají vlastnost X ještě neimplikuje, že celek postrádá vlastnost X. Samotný vodík ani samotný kyslík jsou neškodné plyny, ale jejich směs je vysoce třaskavá. Stejně tak samotné papíry, tužky, výtisk algoritmu, ani obsluhující otrok nerozumějí čínsky, ale dohromady tvoří systém, a celý systém rozumí čínsky.
Vynálezce paradoxu Searle má na tento protiargument chytrou odpověď: Představme si, že otroka přinutíme se algoritmus naučit vykonávat nazpaměť. Potom celý systém nebude potřebovat místnost, papíry a tužky, bude sestávat z pouhého otroka, který na čínsky položenou otázku vysloví čínskou odpověď. Bude ale stále pouze slepě vykonávat instrukce algoritmu, aniž by znal význam jednotlivých kroků. Otázku 现在几点? vezme jako vstupní parametr funkce, provede výpočet a odpoví 现在两点, aniž by tušil, na co se jej Číňan ptá a co mu odpovídá [1] - pro otroka to jsou pouze sekvence abstraktních znaků. Tudíž, otrok stále nerozumí čínsky, ač se chová, jako by rozuměl.
Pokud chceme v debatě postoupit dále, je nutné mít na zřeteli, že "argument čínského pokoje" se neopírá o přesné definice toho, co chápeme pod tím, když říkáme, že něco "rozumí čínsky". Filosof Dennett speciálně tento typ argumentu nazývá pumpou na intuici. Pumpy na intuici se dovolávají našeho intuitivního, byť nepřesného uvažování, a i když kolem nich postavíme rigorózní argument, celá konstrukce zůstane tak slabá, jak slabá je pumpa v jejím základu. Ačkoli jsou pumpy na intuici formálně slabé, jsou silné v přesvědčování, a tak často nezbývá, než jim čelit protipumpami.
Konkrétně v tomto případě, říkat, že hypotetický otrok zjevně nerozumí čínsky je místo, kde se intuice pumpuje nejsilněji. Je totiž intuitivně jasné, že mechanické vykonávání nějakého naučeného výpočtu neznamená porozumění významu jeho výsledku. Jenže, přijmeme-li tuto logiku, celý čínský argument se stává zbytečnou okrasou. Bude-li umělá inteligence tvořena počítačem, z definice bude vykonávána jako mechanický výpočet, a pokud je toto v rozporu s porozuměním čínštině, nepotřebujeme nerealistické myšlenkové experimenty s lidskými vykonavateli algoritmu. Přesto, je mnohem víc lidí ochotných připustit, že mechanicky uvažující stroj rozumí čínsky - bude-li náležitě odpovídat na dotazy - než těch, kteří připustí, že člověk otrocky vykonávající předepsaný postup rozumí jeho obsahu.
Proč to tak je? O co se opírá naše intuice v tomto případě? Velmi pravděpodobně zde hraje roli osobní zkušenost. Všichni máme aspoň nějakou zkušenost s mechanickou prací. Když vykonáváme předepsaný postup kroků, naše vjemy nemají nic společného s významem této práce jako celku. Místo toho se soustředíme na jednotlivé kroky, přičemž vnímáme spoustu dalších věcí, které se nám zapisují do paměti.
Jako intuiční protipumpu použiju následující příklad. Představme si, že máme za úkol setřídit sto kuliček podle velikosti. Dostaneme-li instrukce takto verbálně zadané, pravděpodobně zvládneme úkol splnit do dvou minut. Pokud ale dostaneme do ruky algoritmus quicksort, aniž bychom o tomto algoritmu předem slyšeli a byli jej tak schopni identifikovat, krom toho, že nám provedení bude trvat mnohem déle, většina lidí bude na konci překvapena, že kuličky skončily setříděné podle velikosti. V obou případech budeme třídit, ale pouze v prvním budeme naší práci rozumět. V prvním případě si budeme pamatovat, že jsme třídili kuličky. V druhém si budeme pamatovat, že jsme určovali pivota, porovnávali velikosti a rekurzivně se vraceli k začátku obdrženého algoritmu. V tomto druhém případě většina naší pozornosti nebyla zaměřena na uspořádávání kuliček; byla zaměřena na sledování instrukcí a snahu neudělat chybu.
Co si z této analogie vzít? Například můžeme zkusit vykoukat, co přesně nám intuice říká o obsahu slova rozumět. Zdá se, že vykonávané činnosti rozumíme, pokud užíváme metod přizpůsobených k implementaci na "hardwaru", který je v mozku k dispozici. Naše vědomí je schopno rozpoznat příkaz "setřiď" jako primitivní instrukci (a je to tato primitivnost, co je svázáno úzce s vnímáním významu). V případě užití quicksortu záměrně ignorujeme existenci této instrukce a výsledku dosahujeme pomocí jiných instrukcí (porovnej, změř, rozděl na skupiny...), přičemž zjevně rozumíme významu těchto instrukcí, ale uniká nám význam celé složené procedury; pro stromy nevidíme les. Tento pohled na věc skutečně potvrzuje, že otrok naučivší se čínský algoritmus nebude rozumět čínsky, protože čínský algoritmus je (podle předpokladu) napsán v jazyce určeném k implementaci na počítači; stejný algoritmus optimalizovaný pro fungování v lidském mozku je naproti tomu obyčejná znalost čínštiny, kterou najdeme u (skoro) každého Číňana. Stejně tak je zjevné, že analogii nemůžeme jen tak beze všeho přetáhnout na počítač, jehož vnitřní architektura se liší od mozku. Algoritmus nesrozumitelný pro člověka nemusí být nutně nesrozumitelný pro počítač, ať už to přesně znamená cokoli.
Další náhled, který můžeme vypumpovat z analogie s tříděním, se týká omezené platnosti podobných intuicí. Máme-li setřídit sto kuliček, zvládneme to skoro jistě rychleji pomocí intuitivního postupu "podle oka", než slepým vykonáváním instrukcí quicksortu. Zdá se, že třídění lze vykonávat buď "rozumně", nebo "otrocky" (a potažmo vyvodit, že stroj to musí dělat otrocky, a tudíž nemůže být rozumný). Dostane-li ale skupina lidí za úkol setřídit milion kuliček, jsem si téměř jist, že ti znalí quicksortu v tu chvíli budou ve výhodě, i když ho budou muset vykonávat manuálně. Metoda "od oka" v takovém množství nebude fungovat, protože celý soubor kuliček nikdo prostě nepřehlédne jedním pohledem. V tomto případě intuice selhává - intuitivně necítíme v tomto případě hranice našich možností, protože nepřicházíme dost často do styku s úkolem setřídit milion kuliček.
V Searlově argumentu je naše intuice vyzývána, aby si představila otroka, který se naučí čínský algoritmus, a bude jej schopen v hlavě vykonávat. Dovolím si předvídat, že pořádná umělá inteligence nebude kratší kód než má třeba Microsof Excel. Lze si představit člověka, který se naučí několik set megabytů instrukcí a bude schopen, v rozumném čase k tomu, z paměti simulovat Excel? Je to absurdní. Lidský mozek není stavěn na provádění počítačových programů. Nelze ani říct, že v principu bychom mohli danému člověku zvětšit paměť. V mozku není striktně oddělena oblast dat od oblasti algoritmů; kdykoli se naučíme nová fakta, celé naše myšlení se trochu změní i po procedurální stránce. Člověk, který by absorboval obří "čínský algoritmus", by pravděpodobně musel mít úplně jiný mozek, než máme my. Jinak by myslel, jinak by jednal, jiným věcem by rozuměl. Nic nám nebrání o takových lidech hypoteticky uvažovat, ale opírat tyto úvahy o intuici nabytou pozorováním sama sebe a ostatních normálních lidí je téměř jistě špatný nápad [2].
Chceme-li obejít nedokonalosti intuice, musíme se snížit k objektivním definicím. A zde leží hlavní problém "čínského argumentu": jakmile se pokusíme jakkoli uspokojivě a aspoň trochu objektivně definovat, co znamená "rozumět čínsky", argument nemůžeme vůbec formulovat. Nevidíme do nitra ostatních lidí, nevíme, zda to nejsou filosofické zombie [3], stejně jako neumíme s jistotou vyvrátit solipsismus. Chceme-li o věcech hovořit, musíme se omezit na pozorovatelná fakta a sdělitelné zkušenosti, a neexistuje způsob, jak pozorovat rozdíl mezi něčím, co myslí, a něčím, co se pouze chová přesně tak, jako by to myslelo. Ať už pro definici porozumění čínštině užijeme čínskou versi Turingova testu či cokoli jiného, jakmile je definice vyřčena, vše, co může intuiční puma "čínského argumentu" učinit, je naznačit, že tato definice je absurdní. Nezávisle na definici. Je-li ale "porozumění čínštině" tak složitý pojem, že není možno jej ani konsistentně nadefinovat, jaký má vůbec smysl o něm mluvit?
Poznámky:
1. 现在几点 (sien caj ťi tien) = kolik je hodin?, 现在两点 (sien caj liang tien) = jsou dvě hodiny (zdroj).
2. Ilustrací toho, jak může intuice vést na zcestí, je-li užita mimo rámec, ve kterém byla nabyta, je "argument světelného pokoje": Pokud jdete do tmavého pokoje a začnete tam zuřivě mávat magnetem, stejně nic neuvidíte. Proto světlo nejsou elektromagnetické vlny. Ačkoli je tento argument velmi podobným zneužitím intuice jako diskutovaný "čínský argument", na první pohled, intuitivně, vypadá jako dost slabá analogie. Je totiž zjevně špatně, zatímco špatnost "čínského argumentu" je natolik málo vidět, že mu dost inteligentních lidí věří. Možná je to proto, že jsme již zvyklí na to, že intuice nás často klame ve věcech fyzikálních, ale zatím nejsme přliš zvyklí na klamavost naší intuice ve případech týkajících se vědomí, myšlení a fungování mozku obecně.
3. Filosofická zombie je člověk, necítí žádné vjemy (qualia), ale chová se nerozlišitelně od normálních lidí. Filosofické zombie žijí především v myšlených experimentech.
Žádné komentáře:
Okomentovat