sobota 13. března 2010

Paradox v čínském pokoji

Již dlouho zde na blogu nebyl žádný paradox, což je na čase napravit. Dnešní téma spíše přirozeně navazuje na nedávné příspěvky o svobodné vůli, jelikož se týká myšlení strojů. Budu mluvit o Searlově "argumentu čínského pokoje".

Pokud člověk nevěří, že lidské myšlení je nadpřirozený či magický proces, pravděpodobně připustí, že dostatečně výkonný počítač vybavený vhodným softwarem může být umělou inteligencí. Jak již bývá zvykem v podobných případech, přesný význam slova inteligence je předmětem rozepří. Jelikož nemohu dost dobře rozebírat všechny definice, které pro inteligenci existují, přijmu pro účely tohoto příspěvku jedno z šíře uznávaných kritérií na rozpoznání inteligence, kterým je Turingův test. Alan Turing navrhl tento test již v roce 1950 jako způsob, jak objektivně hledat odpověď na otázku zda stroje myslí:
[Účastní se] tři lidé. Muž (A), žena (B) a vyšetřovatel (C) [...]. Vyšetřovatel je v oddělené místnosti od zbylých dvou. Cílem [testu] je, aby vyšetřovatel zjistil, který z nich je muž a která je žena. Vyšetřovatel je zná pod oxnačením X a Y, a na konci řekne buď "X je A a Y je B", nebo "X je B a Y je A". Vyšetřovatel může A a B klást otázky, jako: "Může mi prosím X sdělit délku svých vlasů?" Předpokládejme, že X je ve skutečnosti A, pak A musí odpovědět. Úkolem A je snažit se přinutit C zmýlit se v identifikaci. [...] Úkolem B naopak je pomáhat vyšetřovateli. [...] Nyní si položme otázku: co se stane, pokud stroj převezme roli A v tomto [testu]? Rozhodne se vyšetřovatel špatně stejně často za těchto okolností, jako když se [testu účastní] muž a žena? Tyto otázky nahrazují naše původní "Mohou stroje myslet?" [1]
Originální Turingův test byl později různě přeformulováván a byly vymýšleny všeliké variace. Jádro ale zůstává stejné: Místo abychom se ptali, zda stroje myslí, či zda jsou inteligentní, ptejme se, zda stroj je schopen ošálit člověka při čistě verbální komunikaci, předstíraje, že je sám člověkem.

Turingovu testu lze vytýkat subjektivitu: používá lidského vyšetřovatele, a výsledek testu může silně záviset na vyšetřovateli. Někteří lidé se na funkci vyšetřovatele evidentně nehodí. Program ELIZA z poloviny šedesátých let údajně přesvědčil část lidí o tom, že je člověkem, a někteří odmítali uvěřit, když jim bylo sděleno, že komunikovali s jednoduchým automatem. [2] Přesto, alespoň průměrně inteligentní a poučený člověk se těžko nechá nachytat jakýmkoli v současnosti existujícím programem. ELIZA je sice o něco lepší než podobný program mluv.exe, kterým jsme se bavili na dvěosmšestkách na základní škole, ale pokud se byť jen trochu snažíte sledovat smysl konversace, velmi rychle se její prázdnota projeví. [3] Turingův test stále zůstává přijatelným způsobem, jak zjistit, zda stroje myslí.

Výše zmíněný filosof John Searle je však jiného názoru. Podle něho jsou otázky "mohou stroje myslet" a "mohou stroje ošálit člověka v Turingově testu" dvě oddělené otázky. Stroj sice může simulovat myšlení, a následně proto projít Turingovým testem, ale přesto se nebude jednat o "pravé" myšlení. Stroj sice bude odpovídat na otázky, ale nebude rozumět jejich obsahu. Jeho inteligence bude pouze chytrou iluzí. Argument je následující:

Dejme tomu, že existuje program X, který je schopen plynně komunikovat v čínštině [4], a to tak, že projde Turingovým testem. V principu nic nebrání vzít zdrojový kód a vytisknout jej na papír. Pokud chceme, můžeme instrukce zdrojového kódu přepsat do lidského jazyka (jakéhokoli kromě čínštiny) a najmout si otroka ovládajícího tento jazyk (ale ne čínštinu), který by pak instrukce vykonával. Otroka uzavřeme do pokoje spolu s výtiskem našeho čínského algoritmu a pořádným štosem čistých papírů a nevypsaných propisek, aby měl kde a jak dělat pomocné výpočty. Nyní necháme ke dveřím pokoje přicházet Číňany, kteří napíší na papír otázku a podsunou ji pode dveřmi. Otrok je instruován vnímat podsunuté otázky jako vstup do čínského algoritmu. Začne tedy mechanicky vykonávat instrukce, které má vytištěné při ruce, a v konečném čase jej tento postup přivede k obkreslení jistých znaků, které podstrčí pode dveřmi zpět. Předpokládali jsme, že program X je schopen smysluplné konversace. Jelikož otrok zavřený v pokoji vykonává tentýž algoritmus, jeho výstup se nemůže lišit od výstupu programu X. Vezme-li si tedy Číňan zpět ven prostrčený papír, přečte na něm smysluplnou odpověď na svou otázku. Z hlediska Číňana se zdá, že čínský pokoj obsahuje něco, co rozumí čínsky.

Kde je ale schováno porozumění čínštině? ptá se Searle. Jediná složitější součást celého mechanismu je otrok, zbytek je jen kupa papírů a propisek. Jenže otrok podle předpokladů čínsky nerozumí; pouze mechanicky sleduje instrukce. Je tedy jasné, říká Searle, že jsme zkonstruovali něco, co nepochybně nerozumí čínsky, ačkoli to projde testem. Čínský pokoj vytváří iluzi porozumění, podobně jako program ELIZA, pouze dokonaleji; ve skutečnosti ale nepřemýšlí: copak mohou propisky a papíry rozumět čínsky? Jelikož program X funguje úplně stejně jako čínský pokoj, ani on nemůže ve skutečnosti rozumět čínsky. Ergo, umělá inteligence je nemožná. Můžeme sice, teoreticky, sestrojit stroje, které budou svým chováním neodlišitelné od lidí, ale tyto stroje budou vždy myšlení pouze simulovat, namísto toho, aby opravdu myslely.

Argument čínského pokoje je ovšem paradoxem svého druhu. Předpokládáme-li, že funkce lidského mozku lze popsat deterministickými fyzikálními zákony, pak jej lze téměř jistě modelovat pomocí programu, a tento program potom vykonávat manuálně ve stylu čínského pokoje. Plyne z toho, že ani lidé skutečně nemyslí, ale pouze myšlení simulují? Pokud tomu tak je, pak ale rozlišování myšlení a jeho simulace má pramalý smysl.

Jednoduchou cestu ven nabízí dualismus - tj. pohled, který mysl (či duši) považuje za oddělenou věc od fyzické podstaty mozku. Pokud má dualismus smysl, je rozdíl mezi člověkem a strojem daný jednoznačně přítomností duše. Searle ale není dualistou, naopak trvá na tom, že opravdové myšlení je podmíněno chemicko-fyzikální podstatou mozku, a že naopak představa myslících strojů je podmíněna dualismem.

V příštím díle se zaměřím na protiargumenty a možná rozřešení popsaného paradoxu.

Poznámky:
1. A.Turing, Computing machinery and intelligence (v časopise Mind), 1950. Můj zkrácený překlad je z citace uvedené v knize A. Hofstadtera Gödel, Escher, Bach. Turing místo o testu mluvil o hře (název Turingův test se vžil až později), v překladu jsem toto upravil pro lepší plynulost textu.
2. Autor programu Weizenbaum píše: ELIZA vytvořila pozoruhodnou iluzi porozumění v myslích mnoha lidí kteří s ní konversovali. ... Často vyžadovali, abych je nechal konversovat s ní v soukromí, a poté, co nějaký čas konversovali, navzdory mému vysvětlování trvali na tom, že jim stroj skutečně rozuměl.
3. ELIZU možno vyzkoušet online. Moje pokusná konversace je uvedena níže.
4. Pochopitelně je volba čínštiny zde zcela libovolná, program by klidně mohl komunikovat baskicky.

Turingův test v praxi - konversace s programem ELIZA.
ELIZA: Hello. How do you do.  Please state your problem.
Já: I am sick.
E: I am sorry to hear that you are sick.
J: Yes.
E: You seem to be quite positive.
J: Not at all.
E: I'm not sure I understand you fully.
J: Well, we are at the beginning of the conversation and I haven't said that much yet...
E: Did you think they might not be at the beginning of the conversation and you haven't said that much yet
J: Who do you mean?
E: We were discussing you -- not me.
J: Certainly, but you haven't answered my question.
E: You are sure.
J: Jdi do prdele.
E: Please go on.
J: Jdi do prdele.
E: What does that suggest to you ?

31 komentářů:

  1. No to je náhoda, zrovna minulý týden jsem se oddával konversaci s elbotem (http://www.elbot.com/)...

    OdpovědětVymazat
  2. Elbot se zdá být ještě hloupější než Eliza. Zřejmě je to dáno tím, že Eliza simuluje psychoanalytika, a u psychoanalytika automaticky očekáváme nepříliš smysluplná vyjádření. Elbot naopak si musí téma rozhovoru vycucat z prstu, což je těžší.

    OdpovědětVymazat
  3. Tento komentář byl odstraněn autorem.

    OdpovědětVymazat
  4. Tento komentář byl odstraněn autorem.

    OdpovědětVymazat
  5. Hynek Bíla píše: „Předpokládáme-li, že funkce lidského mozku lze popsat deterministickými fyzikálními zákony, pak jej lze téměř jistě modelovat pomocí programu, ...“

    Rozhodla som sa moju reakciu na Váš text tematicky rozčleniť:

    Simulácia javu versus jav samotný
    Simulácia požiaru v počítači nie je skutočný požiar. Môžete mať kvalitný počítačový model nejakého javu, ale to ešte neznamená, že počítačové procedúry skutočne realizujú daný jav. Viem si bez problémov predstaviť nejaký pokročilý počítačový softvér ktorý úspešne prejde Turingovým testom, ale algoritmus sám osebe nie je myseľ. Ľudská myseľ zrejme používa nejaké komplexné algoritmy, ale opačne to platiť nemusí, zložité algoritmy (ich vykonávanie) sa môžu zaobísť bez akejkoľvek mysle.
    Pre mňa je myseľ zvláštny prírodný fenomén a počítačový model mysle by som s mysľou automaticky nestotožňovala. Tým netvrdím, že stroje nemôžu myslieť, veď aj ľudský mozog je v podstate biochemický stroj, ja len odmietam stotožňovať počítačové modely nejakého javu so samotným javom. Komplexný stroj môže myslieť, ale pokojne môže byť aj tupým zombim, ktorý nič nevidí, nepočuje, neprežíva, len kvalitne simuluje skutočné prežívanie. Algoritmy sa bez mysle zaobídu.

    Senzuálna modifikácia problému čínskej izby
    Trochu upravím ten Searlovou myšlienkový experiment: Predstavme si úplného slepca, ktorý je úplne slepý už od svojho narodenia. Náš slepec má na očiach špeciálne tmavé okuliare so zabudovanou kamerou a kamerové signály z okuliarov sa prenášajú do počítača. Počítač vybavený kvalitnou umelou inteligenciou kamerové signály spracuje a vyhodnotí a slepcovi dá vhodný zvukový výstup. Počítač vlastne slepcovi diskrétne (cez špeciálne slúchadlá) našepkáva čo bolo softvérovo detegované v kamerových dátach napr.: „modré kreslo vľavo“, „šedá stena“, „čierny pes vpravo“. Nezasvätenému pozorovateľovi sa slepec môže javiť ako vidiaci človek, ktorý sa bez problémov orientuje vo vonkajšom prostredí. Pozorovateľ môže mať falošný dojem, že slepec skutočne vidí tvary a farby, ale reálne slepec nič nevidí a pretože je slepý od narodenia, tak náš slepec si ani nevie predstaviť čo pre nás skutočne znamená slovo „vidieť“. Svet farieb a (vizuálnych) tvarov je pre slepca úplne nepredstaviteľný. Teda máme tu systém slepec+počítač: počítač v našej úvahe je len tupý, ale kvalitný stroj, úplný „zombi“ a náš slepec nič nevidí a ani si nevie predstaviť čo to znamená vidieť. Slepec+počítač kvalitne simulujú vidiaceho človeka, ale v skutočnosti je počítač psychicky mŕtva entita a slepec samotný nič nevidí, len počuje povely z počítača. Hybrid slepec+počítač sa správa tak ako keby videl, ale vizálne qualia nie sú v našom hybridnom systéme vôbec prítomné.

    OdpovědětVymazat
  6. Simulaci požáru od požáru samotného má cenu rozlišovat zejména proto, že to snadno umíme. Požár nám zničí hořící objekt a zanechá místo toho spoustu kouře a popela. Jak ale rozlišíte simulaci myšlení od myšlení samotného? Jde teď o význam slova "myšlení" ve vašem užití. Řekněme, že před vámi stojí nějaký stroj (nebo třeba mimozemšťan), a máte posoudit, zda skutečně myslí. Co uděláte?

    Není druhá část spíš modifikace jiného myšlenkového experimentu?

    OdpovědětVymazat
  7. Tento komentář byl odstraněn autorem.

    OdpovědětVymazat
  8. Hynek Bíla píše: „Simulaci požáru od požáru samotného má cenu rozlišovat zejména proto, že to snadno umíme.“

    Áno, v prípade požiaru „to snadno umíme“ a v prípade externých myslí sa to ešte musíme naučiť (alebo sa o to aspoň čestne pokúsiť). Myslím, že najlepšie lekcie o mysli nám môže dať živý mozog, teda predstavujem si to tak, že systematickým prírodovedným skúmaním živých mozgov (ľudských, zvieracích) by sme sa mohli pomaličky prepracovať k mysli ako prírodnému fenoménu – od vágnej filozofie mysli k prírodovede myslí. Tie jednoduché filozofické „riešenia“ problému mysle, ktoré ponúka napr. Dennett sa mi javia ako obyčajná rezignácia. Na vykonávanie zložitých algoritmov myseľ nepotrebujeme, to dokážu aj psychicky mŕtve entity. Nezamieňajme si implikácie, to, že ľudská myseľ/mozog vykonáva nejaké komplexné algoritmy ešte neznamená, že akákoľvek entita ktorá vykonáva komplexné algoritmy disponuje mysľou.

    Predstava, že implementáciou nejakých algoritmov sa premení psychicky mŕtva entita na cítiacu bytosť je podľa mňa číra mágia, trochu mi to pripomína rímsko-katolícke učenie o transubstanciácii :) (kňaz urobí svoje magické gestá, vysloví tie správne zaklínadlá a kúsok cesta a vína sa premení na skutočné telo božie)
    Samozrejme, je tu aj ďalšia filozofická „možnosť“, úplné popieranie mentálnych fenoménov, ale k tomu mám ja veľmi ďaleko: popierať moju bolesť hlavy pri migréne, alebo chuťové zážitky z dobrého jedla, alebo sýtu červeň a vôňu ruží, alebo lásku, radosť, alebo … to sa mi zdá úplne iracionálne. Mentálne fenomény existujú a zaslúžia si seriózne prírodovedné skúmanie a nie nejakú absurdnú filozofickú bagatelizáciu.

    Hynek Bíla píše: „Jak ale rozlišíte simulaci myšlení od myšlení samotného? Jde teď o význam slova "myšlení" ve vašem užití. Řekněme, že před vámi stojí nějaký stroj (nebo třeba mimozemšťan), a máte posoudit, zda skutečně myslí. Co uděláte?“

    Počkám si na kvalitnú prírodovednú teóriu mentálnych stavov a potom ju na ten stroj, alebo mimozemšťana aplikujem :)

    Keby som teraz na základe našich skromných poznatkov musela rozhodnúť túto otázku, tak by som mimozemšťanovi asi priznala mentálny život, urobila by som totiž odhad, že myseľ mala dôležitú evolučnú funkciu na Zemi a podobne to asi bude aj na inej planéte. V prípade stroja by som sa zaujímala o jeho vnútornú štruktúru, keby som zistila, že ten stroj funguje na podobných princípoch ako naše počítače a jeho fungovanie je podmienené len implementáciou nejakého zložitého algoritmu asi by som stroju tú myseľ uprela.

    Hynek Bíla píše: „Není druhá část spíš modifikace jiného myšlenkového experimentu?“

    Nie, pretože ten Vami spomínaný myšlienkový experiment nepoznám.
    Searl vo svojom myšlienkovom experimente dáva príklad zloženého systému, ktorý dokáže imitovať Číňana. Searlov čínštiny neznalý otrok + potrebné pomôcky vytvoria simuláciu Číňana. Searlovi išlo o simuláciu jazykovej „znalosti“ čínštiny, ja som však chcela v mojom myšlienkovom experimente zdôrazniť evolučne primárnejší fenomén, teda zmyslové vnímanie a vlastne aj simuláciu vizuálneho qualia.

    OdpovědětVymazat
  9. Váš komentář byl automaticky vyhodnocen jako spam. Pokud se to tak stane, je zbytečné posílat totéž sedmkrát po sobě. Filtr je sice co do svých myšlenkových procesů mysteriózní, ale přesto konsistentní: když to nepustí jednou, nepustí to ani naposedmé. Lépe napsat "komentář se nezobrazil", je větší šance, že si toho všimnu.

    K věci:

    0) Zdá se, že pro definici myšlení potřebujete qualia. To není plně konsensuální definice. Taková sice asi není žádná, ale když už by se kladlo rovnítko mezi myšlení a qualia, je lépe mluvit přímo o qualiích. Sníží se tím šance na nedorozumění. Spousta lidí akceptuje třeba tu Turingovu definici myšlení, která s qualii nemá nic do činění.

    1) Říkáte, že byste udělala odhad, že mysl (tedy qualia) měla důležitou evoloční roli. Evoluci ale je možné simulovat na počítači (včetně jednoduchých modelů připomínajících evoluci organismů), a simulace podle vás qualia nereprodukují. Pokud jsou qualia epifenomenální (jak se běžně předpokládá), ani nijaký vliv na evoluci mít nemohou. Úvaha je proto zřejmě nesprávná.

    2) Na jedné straně uznáváte, že "ľudská myseľ zrejme používa nejaké komplexné algoritmy", na druhé píšete, že "keby som zistila, že fungovanie [stroja] je podmienené len implementáciou nejakého zložitého algoritmu asi by som stroju tú myseľ uprela". Pokud lidská mysl vykonává algoritmy, proč je vykonávání složitého algoritmu argument proti mysli stroje? (Klíčové tu asi je slovo "len", jenom mi není zcela jasné, co tu přesně znamená.)

    3) Čekat na kvalitní přírodovědnou teorii mentálních stavů je legitimní postoj. Ale,

    3a) Mentální stavy = stavy mysli, není-liž pravda? Nelze stavět teorii mentálních stavů, nemám-li vyřešenu otázku, co vůbec mysl je.

    3b) Uvědomte si, že slovo "mysl" aktivně užíváte a vyjadřujete určitá (byť ne zcela kategorická) přesvědčení o vlastnostech mysli; v takové situaci musíte mít aspoň rámcovou představu, co to slovo znamená. Pokud o povaze mysli představu nemáte vůbec žádnou (a chcete čekat na budoucí teorii), neměla byste se vůbec angažovat v debatách o mysli. Pokud představu máte, ale čekáte na upřesnění, je to v pořádku; odvolání se na budoucí teorii ale působí trochu jako zbytečný úhybný manévr.

    3c) Je pravděpodobné, že teorie mentálních stavů o qualiích nic neřekne. Výroky o qualiích jsou konstruovány zpravidla tak, aby nebyly nijak empiricky ověřitelné (krom vlastního subjektivního vnímání).

    4) Přirovnání komputacionalismu k doktríně o transsubstanciaci je laciný rétorický trik, jehož působivost je čistě založena na použítí slova "přeměna". Měl-li bych tento "argument" brát vážně, znamenal by, že implementace algoritmu na nějakém fyzickém systému je proces co do důsledků na stejné úrovni jako zaříkávání kněze. Jelikož zaříkávání kněze nemá žádný efekt, instalace programu do počítače taktéž nemá žádný efekt. Soudím, že to není zrovna dobrá metafora.

    Zkuste pamatovat na to, že algoritmus se fyzicky ve stroji vykonává, reálné elektrony se hýbou, elektromagnetické pole se mění, železné piliny na disku se magnetizují, stejně jako v mozku. Pokud lékař na základě EEG usoudí, že tyto procesy v mozku ustaly a konstatuje smrt, předpokládám, že nemáte problém to akceptovat. Proč máte problém akceptovat podobnou věc u strojů?

    OdpovědětVymazat
  10. Pro hnidopichy: Poslední odstavec předchozího komentáře neznamená, že v mozcích lidí jsou železné piliny. Nebo aspoň ne u všech.

    OdpovědětVymazat
  11. Hynek Bíla píše:"Váš komentář byl automaticky vyhodnocen jako spam. Pokud se to tak stane, je zbytečné posílat totéž sedmkrát po sobě. Filtr je sice co do svých myšlenkových procesů mysteriózní, ale přesto konsistentní: když to nepustí jednou, nepustí to ani naposedmé. Lépe napsat "komentář se nezobrazil", je větší šance, že si toho všimnu."

    Sprvu sa mi môj komentár normálne zobrazil, až neskôr, keď som sa na novo vrátila na Váš blog som zistila, že tam komentár, nie je, no a tiež sa diali aj nejaké záhadné veci na mojom účte, tak som si nebola istá čo sa deje, či chyba náhodou nie je na mojej strane netu, ale už viem a nabudúce zareagujem tým komentárom :)

    OdpovědětVymazat
  12. Moje komentáre boli zrejme zase vyhodnotené ako spam. Tomu filtru niečo vadí na mojich komentároch :)

    P.S: Možno sa mu len nepáči môj negatívny postoj ku komputacionalizmu :))

    OdpovědětVymazat
  13. To by možná filtr prošel Turingovým testem.

    Možná se filtru nelíbí kombinace češtiny a slovenštiny v jednom komentáři (mně to promine, ale dá se předpokládat, že k majiteli účtu bude filtr benevolentnější). Nejhorší je, že nevím, jak to nastavit nebo vypnout.

    OdpovědětVymazat
  14. Včera som napísala dva komentáre, jeden bol filozofický. Ak sa môj filozofický komentár dostal do spamu, mohli by ste ho prosím odtiaľ vybrať a dať do diskusie ?

    (Samozrejme, ak je to možné, ešte nepoznám aké moderátorské možnosti majú blogeri blogspotu)

    OdpovědětVymazat
  15. Teď mi přišel mejlem (mám automatické přeposílání) váš komentář s tímto obsahem:

    "Včera som napísala dva komentáre, jeden bol filozofický. Ak sa môj filozofický komentár dostal do spamu, mohli by ste ho prosím odtiaľ vybrať a dať do diskusie ?

    (Samozrejme, ak je to možné, ešte nepoznám aké moderátorské možnosti majú blogeri blogspotu)"


    Problém je. že tento komentář se neobjevil ani ve spamové složce. Další problém je, že ani žádný další zde neuvedený komentář v tuto chvíli ve spamové složce.

    Musím říct, že mi tahle situace, kdy nemám možnost ani dodatečně posoudit, zda je něco spam, nemám možnost filtr vypnout a nevím, jak funguje, silně vadí. Pokusím se s tím něco udělat.

    Prozatím, je možné, že má Google něco proti vašemu účtu nebo adrese IP. V prvním případě lze komentovat anonymně, v druhém záleží na tom, zda můžete komentovat odjinud nebo si IP adresu změnit. Taktéž se zdá, že kratší komentáře mají větší šanci na úspěch, zkuste tedy svůj komentář rozdělit.

    OdpovědětVymazat
  16. Teď mi to dokonce na chvíli psalo, že ani já sem nemám přístup.

    OdpovědětVymazat
  17. 0)Ja myslenie chápem ako mentálnu aktivitu (teda bez mysle niet žiadneho myslenia).
    Okrem toho si myslím si, že psychologické definície myslenia, sú konsenzuálnejšie než nejaké „Turingovské“ (ktoré sú rozšírené len v rámci komunity extrémnych vyznavačov tvrdej komputacionalistickej doktríny).

    OdpovědětVymazat
  18. 1) Inak, aby nedošlo k nedorozumeniu, „myseľ“ je u mňa všeobecnejší pojem než „qualia“, qualia sú jednoducho mentálne kvality zážitkov.
    Áno evolučné procesy sa modelujú na počítačoch a nevznikajú pri tom qualia (inak aj jadrové výbuchy sa úspešne modelujú na počítačoch a nevzniká pri tom ani rádioaktivita, ani tlaková vlna).
    To či sú qualia epifenomenálne nie je pri evolučných úvahách podstatné. Ak by sme aj pripustili pravdivosť epifenomenalizmu, tak konkrétne aktivity mozgu sú sprevádzané špecifickými qualia, teda nie samotné qualia, ale mozgové procesy, ktoré ich generujú by mohli mať veľký význam pri prežití a reprodukčnom úspechu jedinca. Ku konkrétnym stavom mozgu sú priradené špecifické qualia, preto vlastne môžeme stavy mozgu paralelne opisovať dvoma rôznymi jazykmi: psychologickým jazykom (de facto jazyk qualia) a jazykom neurovedy.

    OdpovědětVymazat
  19. 2) V tomto bode mi podsúvate niečo čo som netvrdila. Vykonávanie zložitého algoritmu nie je argument proti mysli stroja. Algoritmus je abstraktný objekt, postupnosť formálnych operácií. Na niektoré procesy v mozgu sa dá pozerať ako na „implementácie“ špecifických algoritmov, ale to je len jeden a podľa mňa nie ten najpodstatnejší aspekt fungovania mozgu. Mozog samotný je dynamický systém tvorený miliardami interagujúcich buniek, mozog je veľmi zložitá dynamická sieť- konektóm a nie von Neumanov počítač. Dnešné počítače sú v podstate priamočiare deterministické systémy na vykonávanie formálnych operácií. Počítač a živý mozog majú jednoducho veľmi rozdielnu vnútornú dynamiku.

    OdpovědětVymazat
  20. Myseľ je forma bytia a živý mozog je dynamická entita na ktorej sa myseľ zjavuje a na Zemi sa táto evolučne užitočná forma bytia (komplexných mozgov) objavila ako prirodzený výsledok dlhej evolúcie (upozorňujem, že som fenomenologicko-analyticky orientovaná „neoplatonička“ :)

    OdpovědětVymazat
  21. 3)
    b) Nie je to úhybný manéver, jednoducho mám konkrétne prírodovedné otázky ohľadom fázových prechodov, nerovnovážnych stavov a mozgu + matematické otázky ohľadom systémovej dynamiky a pokiaľ nebudem mať odpovede nedostanem sa ďalej.
    c) Podľa mňa viac než výroky o qualia treba skúmať okolnosti ich „zjavenia“ a to, na čom sa zjavujú – mozog.

    OdpovědětVymazat
  22. 4) V bode 4) ste sa dopustili chybného úsudku. Stotožnili ste jeden funkcionalisticko-komputacionalistický smer filozofie mysle (reprezentuje ho napr. Dennett, ktorý je filozof a nie programátor :) s programovaním a implementáciou programov a potom ste dostali chybný „izomorfizmus“ mojej metafory o transubstanciácii. V metafore sa prirovnávajú dve užitočné aktivity jazyk/implementácia algoritmov a dve chybné učenia, učenie o transubstanciácii/Denettova doktrína (Dennett si myslí, že čokoľvek (napr. stroj zložený z drievok, nití a gumičiek, alebo hydraulický systém z rúrok naplnených vodou, alebo …) na čom sa dá implementovať dostatočne komplexný algoritmus bude mať po implementácii myseľ).

    OdpovědětVymazat
  23. H.B.: „Zkuste pamatovat na to, že algoritmus se fyzicky ve stroji vykonává, reálné elektrony se hýbou, elektromagnetické pole se mění, železné piliny na disku se magnetizují, stejně jako v mozku.“

    V prípade počítača ide o jednoduchý sekvenčný deterministický proces, myseľ nie je potrebná.

    V mozgu sú však miliardy buniek, každá bunka je plná molekulárnych strojov, na membráne má molekulárne pumpy, pôsobí v prostredí zložitých molekúl a interaguje s ostatnými, synapsie neurónov vytvárajú obrovský konektóm s mimoriadne zložitou kolektívnou dynamikou – mozog je dynamická sieť vzťahov.

    OdpovědětVymazat
  24. Tak, umelá "inteligencia" (asi urazená mojím ľudským šovinizmom a anti-komputacionalizmom) opäť odmietla zverejniť môj príspevok, preto som ho bola nútená rozkúskovať (takto rozkúskovaný príspevok už filtru nevadil).

    OdpovědětVymazat
  25. Tento komentář byl odstraněn autorem.

    OdpovědětVymazat
  26. Výborně, rozdělení na části funguje. Vítězství mysli nad strojem!

    Moje reakce:
    0) Asi by bylo dobré tu psychologickou definici se vším všudy uvést.

    1) Že qualia nevznikají při simulaci není automaticky jasné, ani nevidím žádný způsob, jak podobnou věc ověřit. Dokud nemáme způsob detekce qualií, ponechal bych otázku jejich přítomnosti v simulacích neřešenou.

    Co se týká evoluční role qualií, šlo mi o to, že selekční tlaky se váží na vnější projevy mozkové činnosti, a ty mohou být simulovány (pro jednodušší organismy typu mouchy to zvládneme už dnes). Je možné, že mozek z neuronů má qualia, zatímco identicky fungující počítač z mikročipů nikoli, ale z hlediska evoluce je to irelevantní.

    (Pod identicky fungujícím počítačem si představte simulátor mozku, který je připojen na míchu přes nějaký konvertor signálů a posílá signály tak, že výsledný organismus se chová nerozlišitelně od živého. Pro evoluci je samozřejmě nutná možnost mutací a rozmnožování, to ale lze v principu zavést nezávisle na materiální podstatě systému.)

    3. "Mozog samotný je dynamický systém tvorený miliardami interagujúcich buniek, mozog je veľmi zložitá dynamická sieť- konektóm a nie von Neumanov počítač. Dnešné počítače sú v podstate priamočiare deterministické systémy na vykonávanie formálnych operácií. Počítač a živý mozog majú jednoducho veľmi rozdielnu vnútornú dynamiku."

    Podívejme se na použitá adjektiva:
    a. Mozek je dynamický. Tímhle slovem se zpravidla označuje fakt, že v něm probíhá nějaký proces. Počítač je z tohoto pohledu samozřejmě také dynamický.
    b. Tvořený miliardami interagujících buněk. Nahraďte buňky čipy a máte popis počítače.
    c. Počítač je přímočarý. Pokud se tím myslí, že počítač vykonává instrukce v jednoznačně definovaném pořadí, není to nutně pravda. Paralelizace je velmi dobře možná a u složitějších výpočtů se standardně provádí.
    d. Deterministický. Mozek je velmi pravděpodobně také deterministický. Pokud ne a pokud je determinismus pro myšlení na škodu, i do počítače se dá přidat fyzický náhodný generátor.

    Samozřejmě, existují jasné rozdíly mezi stavbou mozku a stavbou počítače. Otázka ovšem je, co vás vede k domněnce, že proces myšlení (nebo třeba existence qualií) závisí na konkrétní fyzikální podstatě systému, tj. v mase qualia jsou, v křemíku ne. Nemám sice reductia ad absurdum pomocí analogií moc rád, ale jedno si střihnu, pro ilustraci, co na identifikace funkce s fyzikální podstatou může být špatně:

    Pták je složitý dynamický mechanismus skládající se ze svalů, cév, zažívacího aparátu, plic a mozku. Jeho schopnost létat je výsledkem komplexní interakce nervové soustavy, smyslů a opeřených pohyblivých křídel. Letadlo je oproti tomu rigidní stroj spalující kerosin s pevnými křídly bez peří a svalů. Ergo, letadlo nemůže létat.

    4) V metafore sa prirovnávajú dve užitočné aktivity jazyk/implementácia algoritmov a dve chybné učenia, učenie o transubstanciácii/Denettova doktrína

    Metaforu nechápu. Říkáte, že jazyk se má k učení o transsubstanciaci jako implementace algoritmů k "Dennetově doktríně"? Jak přesně?

    OdpovědětVymazat
  27. H.B. napísal:
    1) Že qualia nevznikají při simulaci není automaticky jasné, ani nevidím žádný způsob, jak podobnou věc ověřit. Dokud nemáme způsob detekce qualií, ponechal bych otázku jejich přítomnosti v simulacích neřešenou.

    Ako chcete, pokiaľ vám takáto qualiová „otvorenosť“ vyhovuje … , ale uvedomte si, že nedisponujete detektorom qualií ani v prípade takých objektov ako sú mixér, žehlička, písací stôl, …, teda v rámci vašej qualiovej „otvorenosti“ by ste nemali upierať mentálne kvality ani týmto objektom ;) možno aj spomínané objekty majú vedomie a vedú bohatý a plnohodnotný psychický život :)

    Píšete „nevidím žádný způsob, jak podobnou věc ověřit“, ja vidím ako spôsob „overenia“ to čo je bežné v empirických vedách: vytvoriť prírodovednú teóriu vedomia, ktorá bude mať pozorovateľné a testovateľné empirické dôsledky. Predstavujem si to tak, že mysli by sa priradili nejaké vhodné pozorovateľné a merateľné fyzikálne charakteristiky. Sledovaním týchto charakteristík by sa dal u konkrétneho subjektu špecifikovať jeho mentálny stav a vhodnou zmenou týchto charakteristík by sa dal navodiť konkrétny psychický stav subjektu.
    Cestou k takejto teórii je podrobné skúmanie (teoretické aj empirické) živého ľudského (prípadne aj zvieracieho) mozgu.
    Naše súčasné poznatky o vedomí a mozgu sú však ešte veľmi skromné, teda vôbec nedúfam, že sa k nejakej validnej prírodovednej teórii mysle dopracujeme v tomto storočí.

    Ja ako fyzikalistka a monistka (a trans-humanistka:) zastávam názor, že antagonizmus subjektívne - objektívne je len relatívny. Pre mňa je to celé len vec interfejsu a vhodných skenovacích technológií mozgu.

    Sci-fi vízia sveta - 41. storočie - Neuronet:
    Ľudské mozgy nie sú priamo mentálne prepojené, zatiaľ sú to len izolované ostrovy mysle, pokiaľ by sme však mali k dispozícii vhodný interfejs kompatibilný s nervovou sústavou bolo by možné mozgy prepojiť práve tak dobre ako je prepojená ľavá hemisféra ľudského mozgu s tou pravou. Teda pokročilý interfejs by umožnil priamu a zrozumiteľnú komunikáciu/interakciu mozgov – umelú „telepatiu“. Takýto interfejs by umožnil vytvoriť informačnú sieť živých a umelých mozgov v rámci ktorej by sa antagonizmus subjektívne - objektívne úplne stratil. Ale to je hudba ďalekej budúcnosti.

    OdpovědětVymazat
  28. Napísala som: Mozog samotný je dynamický systém tvorený miliardami interagujúcich buniek, mozog je veľmi zložitá dynamická sieť- konektóm a nie von Neumanov počítač. Dnešné počítače sú v podstate priamočiare deterministické systémy na vykonávanie formálnych operácií. Počítač a živý mozog majú jednoducho veľmi rozdielnu vnútornú dynamiku.

    H.B. napísal:
    Podívejme se na použitá adjektiva:
    a. Mozek je dynamický. Tímhle slovem se zpravidla označuje fakt, že v něm probíhá nějaký proces. Počítač je z tohoto pohledu samozřejmě také dynamický.

    Rozbiť text na jednotlivé slovné druhy a tie potom bez kontextu vykladať, to sa mi nejaví ako racionálna analýza. Takto by ste mohli pri čítaní matematického textu o Aronszajnových a Suslinových stromoch dospieť k názoru, že Aronszajn a Suslin boli nejakí botanici a celý text je o záhradníctve a ovocinárstve :)

    (Inak ja si ako matematička pod slovným spojením „dynamický systém“ obvykle predstavím objekt nejakej konkrétnej kategórie (topologický priestor, kompakt, grupa, …) a homomorfizmus z pevného monoidu do monoidu endomorfizmov tohoto objektu, prípadne homomorfizmus z pevnej grupy do grupy automorfizmov tohoto objektu :)

    Znovu opakujem: vnútorná dynamika mozgu je veľmi odlišná od dynamiky von Neumanovho počítača.
    Mozog sa vôbec nepodobá na von Neumanov počítač a nie je to ani zloženina von Neumanových počítačov. Môj obľúbený neurovedec Jeff Hawkins vo svojej knihe On Intelligence píše: „Ako môže mozog vykonať náročnú úlohu v sto krokoch, ktorú ani najväčší predstaviteľný paralelný počítač nedokáže vyriešiť v priebehu milióna alebo miliardy krokov ? Odpoveď je, že mozog nepočíta riešenie problému, ale načíta riešenie z pamäti. V podstate bola odpoveď uskladnená v pamäti už dlho predtým. Mozgu to zaberie len pár krokov načítať niečo z pamäti. … Celá mozgová kôra je pamäťový systém. Mozog vôbec nie je počítač.“

    Rozdiely medzi mozgom a súčasnými počítačmi sú pekne popísané na tejto stránke: http://scienceblogs.com/developingintelligence/2007/03/why_the_brain_is_not_like_a_co.php

    OdpovědětVymazat
  29. H.B. napísal:
    b. Tvořený miliardami interagujících buněk. Nahraďte buňky čipy a máte popis počítače.

    To je príliš optimistický pohľad. Keď chcel Henry Markram v roku 2008 modelovať aktivitu malého kúsku krysieho mozgu (asi ako špendlíková hlavička) obsahujúceho 10 000 neurónov, potreboval na to počítač veľký ako 4 mraziace boxy. Podľa Markramových slov jeden neurón bol modelovaný výpočtovou jednotkou zodpovedajúcou jednému laptopu, teda v tomto prípade nie 1 neurón = 1 čip, ale 1 neurón = 1 bežný počítač :)
    http://www.ted.com/talks/henry_markram_supercomputing_the_brain_s_secrets.html
    Markramov projekt stále pokračuje a jeho cieľom je simulovať aktivitu stále viac a viac kortikálnych stĺpcov mozgu. Upozorňujem, že tu sa nejedná o vytvorenie nejakej formy umelej inteligencie, ide tu len o počítačovú simuláciu procesov v živom mozgu.

    Alan Turing v roku 1946 vyhlásil: „O 30 rokov bude položenie otázky počítaču, práve tak ľahké ako dnes človeku“. Takýchto bombastických prognóz bolo však od roku 1956 už bezpočet a o umelej inteligencii, ktorá by prešla Turingovým testom nemôže byť ani reči. Nemáme ani len stroje, ktoré by sa svojou autonómnosťou blížili k primitívnym živočíchom. Symbolický prístup k umelej inteligencii, ktorá by mala podobné funkcie ako živý mozog skončil totálnym neúspechom. Dnešné počítače nie sú inteligentné entity, ale len rýchle a stupídne kalkulačky. Naštastie AI paradigma sa postupne mení a od symbolického softvérového AI prístupu sa začína prechádzať k hardvérovému napodobňovaniu mozgu, teda súčasní reverzní inžinieri sa pokúšajú vytvoriť hardvér napodobňujúci nervovú sústavu, napr.: http://www.ted.com/talks/jeff_hawkins_on_how_brain_science_will_change_computing.html
    http://www.ted.com/talks/kwabena_boahen_on_a_computer_that_works_like_the_brain.html

    Tým samozrejme netvrdím, že dnešné počítače sú úplne na nič, naopak sú to mimoriadne užitočné výpočtové nástroje. Len zrejme nie sú tým za čo ich tak bombasticky v minulosti vyhlasovali – von Neumanovské počítače nie sú tou správnou cestou k funkčnej umelej inteligencii. Neuromorfika - napodobňovanie skutočného mozgu in silico, je podľa mňa tá pravá cesta. Hawkins, Kwabena, … ma obrátili na tú pravú AI vieru ;)

    OdpovědětVymazat
  30. H.B. píše:
    c. Počítač je přímočarý. Pokud se tím myslí, že počítač vykonává instrukce v jednoznačně definovaném pořadí, není to nutně pravda. Paralelizace je velmi dobře možná a u složitějších výpočtů se standardně provádí.

    Tá paralelizácia, ako som už hore naznačila, sa s paralelizáciou mozgu nedá ani len porovnať:

    „Ako môže mozog vykonať náročnú úlohu v sto krokoch, ktorú ani najväčší predstaviteľný paralelný počítač nedokáže vyriešiť v priebehu milióna alebo miliardy krokov ? Odpoveď je, že mozog nepočíta riešenie problému, ale načíta riešenie z pamäti. V podstate bola odpoveď uskladnená v pamäti už dlho predtým. Mozgu to zaberie len pár krokov načítať niečo z pamäti. … Celá mozgová kôra je pamäťový systém. Mozog vôbec nie je počítač.“
    Jeff Hawkins, On Intelligence

    Mozog je konektóm: http://www.ted.com/talks/sebastian_seung.html

    H.B. píše:
    d. Deterministický. Mozek je velmi pravděpodobně také deterministický. Pokud ne a pokud je determinismus pro myšlení na škodu, i do počítače se dá přidat fyzický náhodný generátor.

    Mozog je principiálne stochastický ! Každý neurón je náhodný generátor ;) Výstup neurónu sa dá dobre modelovať ako poissonovský náhodný proces . Okrem toho je mozog nelineárny dynamický systém, ktorý aj na makroskopickej úrovni podlieha stochastickej rezonancii.

    OdpovědětVymazat
  31. H.B. píše:
    … co vás vede k domněnce, že proces myšlení (nebo třeba existence qualií) závisí na konkrétní fyzikální podstatě systému, …

    Occamova britva. Myseľ je vlastnosťou živého mozgu, načo zbytočne pripisovať myseľ iným entitám ? Funkcionalisti svojím algoritmickým idealizmom len zbytočne zmnožujú počet kandidátov na myseľ.

    Postulovala som si jednoduchý postulát: Niet mysle bez mozgu.

    Pričom nevylučujem aj umelé mozgy, ktoré na Zemi ešte neexistujú, ale raz možno budú. Kandidát na mozog, by mal byť v nejakom zmysle „mozgoidný“, teda očakávam od neho minimálne nejaký konektóm – komplexnú formu neuronálnej siete … ale nemám ostro vymedzené čo je to mozog, to sa mi vidí pri súčasnej úrovni poznania kontraproduktívne. Teda mám fuzzy-pojem „mozog“ a jediné mozgy o ktorých zatiaľ viem sú tie živočíšne. Som mozgová šovinistka :)

    Occamova britva samozrejme nie je dôkaz, je to len metodická pomôcka, ale to viete.

    H.B. píše:
    Nemám sice reductia ad absurdum pomocí analogií moc rád, ale jedno si střihnu …
    Pták je složitý dynamický mechanismus skládající se ze svalů, cév, zažívacího aparátu, plic a mozku. Jeho schopnost létat je výsledkem komplexní interakce nervové soustavy, smyslů a opeřených pohyblivých křídel. Letadlo je oproti tomu rigidní stroj spalující kerosin s pevnými křídly bez peří a svalů. Ergo, letadlo nemůže létat.

    Strihli ste si zle ! To je od vás len úbohý straw man „argument“. Ja som hore jasne napísala, že niektoré stroje, napr. ľudský mozog, môžu myslieť. Ani Searle netvrdí, že stroje nemôžu myslieť, Searl len tvrdí, že simulácia nie je duplikácia a syntax nie je sémantika. Teda áno, niektoré stroje (mozgy - živé/umelé) môžu myslieť.
    Ak mám na váš straw men reagovať, tak len dvoma vetami: Podľa vás je traktor lietajúci stroj. Keď traktoru dostatočne zväčšíte kolesá a výkon motora tak dostanete tryskáč :)

    Môj postoj k mysli: myseľ je neznámy prírodný jav – vlastnosť mozgu.

    A moje úvahy vôbec neboli mienené ako Reductio ad absurdum, ale chcela som vyjadriť, že simulácia nie je duplikácia a syntax nie je sémantika a vyjadrila svoj negatívny postoj k algoritmickému idelizmu, reprezentovaného napr. Dennettom.

    OdpovědětVymazat