Mohou se chatboti stát stejně vědomými jako lidé?
Různé / / October 31, 2023
Na tuto otázku se snaží odpovědět dvě protichůdné teorie.
Christoph Koch
Americký neurolog, ředitel Allenova institutu pro výzkum mozku.
Otázky o tom, co je subjektivní zkušenost, kdo ji má a jaký má vztah k fyzickému světu kolem nás, pronásledovaly mysli filozofů po většinu lidských dějin. Vědecké teorie vědomí, které jsou kvantifikovatelné a empiricky testovatelné, se však objevily až v posledních několika desetiletích.
Mnoho moderních teorií vědomí se zaměřuje na stopy zanechané jemnými buněčnými sítěmi mozku, z nichž vědomí povstává. Dnes dominují dvě z nich: teorie integrované informace a teorie neurálního globálního pracovního prostoru.
Před 25 lety jsme se pohádali s australským filozofem Davidem Chalmersem. Slíbil jsem mu bednu dobrého vína, pokud budou tyto nervové stopy, odborně nazývané nervové koreláty vědomí, objeveny a jasně popsány do června 2023.
Rozpor mezi teorií integrované informace a teorií neurálního globálního pracovního prostoru však zůstává nevyřešen. To je způsobeno částečně smíšenými důkazy o tom, které oblasti mozku jsou zodpovědné za vizuální zážitek subjektivní vnímání tváří nebo předmětů, i když význam prefrontálního kortexu pro vědomé prožívání byl vyvráceno. Tak jsem prohrál sázku a poslal víno Chalmersovi.
Obě dominantní teorie byly vytvořeny, aby vysvětlily souvislost mezi vědomím a nervovou aktivitou u lidí a příbuzných zvířat, jako jsou opice a myši. A obě teorie vycházejí ze zásadně odlišných předpokladů o subjektivní zkušenosti a docházejí k opačným závěrům o vědomí v umělých artefaktech. Do jaké míry jsou tyto teorie empiricky potvrzeny nebo vyvráceny ve vztahu k vědomí zakořeněnému v mozek, má důležité důsledky pro zodpovězení nevyřešené otázky naší doby: mohou stroje získat vědomí?
Co jsou chatboti nové generace?
Než to probereme, dovolte mi, abych vás uvedl do kontextu a porovnal techniku, která je vědomá, s technikou, která pouze vykazuje inteligentní chování. Počítačoví inženýři se snaží vybavit stroje vysoce flexibilní inteligencí, která kdysi umožňovala osoba opustit Afriku a zalidnit celou planetu. Říká se tomu umělá všeobecná inteligence (AGI).
Mnozí tvrdí, že AGI je vzdálená vyhlídka. Úžasný pokrok dosažený v oblasti umělé inteligence za poslední rok zaskočil celý svět včetně odborníků. S příchodem výmluvných konverzačních softwarových aplikací, hovorově nazývaných chatboti, z esoterického tématu, diskutovali fanoušci sci-fi a elita IT průmyslu ze Silicon Valley se diskuse o AGI změnily v diskusi což odráží širokou veřejnou nespokojenost s existenčním rizikem pro náš způsob života a náš druh.
Chatboti jsou založeni na obrovských jazykových modelech. Nejznámější z nich je řada robotů nazývaných generativní předtrénované transformátory nebo GPT. Byly vytvořeny OpenAI v San Franciscu. Vzhledem k flexibilitě, gramotnosti a schopnosti nejnovější verze, GPT-4, je snadné uvěřit, že má inteligenci a osobnost. Dokonce i její podivné závady, známé jako „halucinace“, do této teorie zapadají.
GPT-4 a jeho konkurenti, jako je LaMDA a Google's Bard, jsou vyškoleni v knihovnách digitalizovaných knih a miliardách veřejně dostupných webových stránek. Genialita jazykového modelu spočívá v tom, že se učí bez dozoru, zpracovává slovo za slovem a snaží se předvídat chybějící výraz. Dělá to znovu a znovu, miliardykrát, bez vnějšího zásahu.
Jakmile model získá znalosti tím, že požije digitalizované záznamy lidstva, uživatel zobrazí neznámou větu – jednu nebo více. Model předpovídá nejpravděpodobnější první slovo, pak další a tak dále. Tento jednoduchý princip ukázal neuvěřitelné výsledky v angličtině, němčině, čínštině, hindštině, korejštině a dalších jazycích, včetně různých programovacích jazyků.
Jaký je rozdíl mezi intelektem a vědomím
Je příznačné, že klíčovou esej o umělé inteligenci „Computing and Intelligence“ napsal Alan Turing se v roce 1950 vyhnul otázce „Mohou stroje myslet?“, tedy otázce, zda mají vědomí. Turing navrhl „imitační hru“: může pozorovatel objektivně odlišit výstup vytištěný člověkem od výstupu vytištěného strojem, pokud jsou identity obou skryty.
Dnes je to známé jako Turingův test a chatboti jsou v tom velmi dobří, i když to chytře popírají, pokud se jich zeptáte přímo. Turingova strategie začala desetiletí neúprosného pokroku, který vedl k vytvoření GPT, ale ignoroval problém.
V debatě o chatbotech je implicitní předpoklad, že umělá inteligence je totéž jako umělé vědomí, že být chytrý je totéž jako být vědomý. A i když jsou u lidí a dalších vyvinutých organismů inteligence a vědomí propojeny, nemusí se nutně vždy navzájem doprovázet.
Inteligence je o myšlení a učení se jednat a z jednání sebe i druhých, aby bylo možné přesněji předpovídat budoucnost a lépe se na ni připravit. Nezáleží na tom, zda to znamená několik příštích sekund ("Ach, to auto se ke mně řítí rychlostí") nebo několik příštích let ("Musím se naučit kódovat"). Inteligence je v konečném důsledku o akci.
Vědomí je na druhé straně spojeno se stavy bytí - vidět modrou oblohu, slyšet zpěv ptáků, cítit bolest, být milenci. Nezáleží ani na tom, zda umělá inteligence, která se vymkla kontrole, něco cítí. Důležité je jen to, že má účel, který nesouvisí s dlouhodobým blahobytem lidstva. A nezáleží na tom, zda ví nebo ne, co se snaží dělat, čemuž lidé říkají sebeuvědomění. Půjde „bezmyšlenkovitě“ za svým cílem. Tedy alespoň koncepčně, i když postavíme AGI, moc nám to neřekne o tom, jestli něco cítí.
S vědomím toho všeho se vraťme k původní otázce, jak se technologie může stát vědomým. Začněme první ze dvou teorií.
Jaké vysvětlení nabízí integrovaná teorie informace?
Začíná tím, že formuluje pět axiomatických vlastností každé myslitelné subjektivní zkušenosti. A pak si klade otázku, co potřebuje neuronový obvod k implementaci těchto pěti vlastností, zapnutí některých neuronů a vypnutí jiných. Nebo jinými slovy, co potřebuje počítačový čip k sepnutí některých tranzistorů a vypnutí jiných.
Interakce příčin a následků v okruhu v určitém stavu nebo skutečnost, že jsou dva aktivní neuron může zapnout nebo vypnout jiný neuron, v závislosti na okolnostech, může být nasazen do multidimenzionální kauzální struktury. Je identická s kvalitou zážitku – s tím, jak je prožívána, například jak se prožívá čas a prostor nebo jak jsou vnímány barvy.
Zkušenost má také spojenou kvantitu – její integrované informace. Pouze obvod s maximem nenulové integrované informace existuje jako celek a má vědomí. Čím více informací je integrováno, tím více nelze obvod zmenšit a tím méně jej lze považovat za pouhou superpozici nezávislých dílčích obvodů.
Integrovaná informační teorie zdůrazňuje bohatou povahu lidské zkušenosti. Stačí se podívat kolem sebe a objeví se před vámi ohromující viditelný svět s jeho nesčetnými rozdíly a souvislostmi. Nebo se podívejte na obraz Pietera Bruegela staršího, vlámského umělce ze 16. století, který zobrazoval náboženská témata a výjevy ze života rolníků.
Každý systém, který má stejné vnitřní souvislosti a kauzální síly jako lidský mozek, bude v zásadě stejně vědomý jako lidská mysl. Takový systém však nelze modelovat. Musí být navržen nebo postaven podle obrazu mozku. Moderní digitální počítače jsou založeny na extrémně volné vazbě (výstup jednoho tranzistoru připojený ke vstupu několika tranzistorů) v srovnání s centrálním nervovým systémem (neuron kortikálního sloupce přijímá vstupní data a produkuje výstupní data pro desítky tisíc dalších neurony).
Moderní počítače, včetně cloudových, si tedy nic neuvědomí, ačkoli časem budou umět vše, co lidé. Z tohoto pohledu se ChatGPT nikdy nebude cítit výjimečně. Všimněte si, že toto tvrzení nemá nic společného s celkovým počtem komponent, ať už neuronů nebo tranzistorů, ale spíše s tím, jak jsou propojeny. Právě propojenost určuje celkovou složitost obvodu a množství jeho možných konfigurací.
Jaké vysvětlení nabízí teorie neurálního globálního pracovního prostoru?
Vychází to z psychologického chápání inteligence jako divadlo, kde herci vystupují na malém osvětleném jevišti, kterým je vědomí. Akci herců sleduje publikum složené z procesorů, které sedí za jevištěm ve tmě.
Jeviště je centrální pracovní prostor mysli, který má malou paměťovou kapacitu pro reprezentaci jediného vjemu, myšlenky nebo paměti. O přístup k tomuto centrálnímu pracovnímu prostoru soutěží různé moduly zpracování – zrak, sluch, motorika očí a končetin, plánování, úsudek, porozumění jazyku a mluvení. Vítěz vytěsňuje starý obsah, který se stává nevědomým.
Podle teorie neurálního globálního pracovního prostoru je metaforická scéna spolu s moduly zpracování mapována do architektury neokortexu. Pracovní prostor je síť kortikálních neuronů v přední části mozku s projekcemi na velké vzdálenosti podobné neurony distribuované po celém neokortexu v prefrontální, parietotemporální a cingulární asociační kůra.
Když aktivita v senzorické kůře překročí určitou hranici, spustí se v korových oblastech globální událost a v důsledku toho se informace přenese do celého pracovního prostoru. Globální šíření informací je činí vědomými. Data, která nejsou přenášena tímto způsobem, jako je přesná poloha očí nebo syntaktická pravidla pro konstrukci gramotných vět, mohou ovlivnit chování, ale ne vědomě.
Z hlediska teorie neurálního globálního pracovního prostoru je zkušenost velmi omezená, podobně jako u myšlenek a abstraktní – podobné skromnému popisu, který lze nalézt v muzeu pod Bruegelovým obrazem: „Scéna v uvnitř. Sedláci v renesančním oblečení pijí a jedí na svatbě."
Při chápání vědomí z perspektivy integrované teorie informace umělec brilantně zprostředkovává fenomenologii okolního světa na dvourozměrném plátně. V chápání teorie neurálního globálního pracovního prostoru je toto zdánlivé bohatství iluzí, přízrakem. A vše, co se k tomu dá objektivně říci, je naznačeno ve stručném popisu.
Teorie neurálního globálního pracovního prostoru plně zohledňuje mýty naší počítačové doby, podle kterých lze vše zredukovat na výpočty. Vhodně naprogramované počítačové simulace mozku, s obrovskou zpětnou vazbou a něčím jako centrálním pracovním prostorem, budou vědomě vnímat svět. Možná ne teď, ale brzy.
Jaký je nepřekonatelný rozdíl mezi teoriemi?
Obecně je diskuse následující. Podle teorie neurálního globálního pracovního prostoru a dalších teorií výpočetního funkcionalismu (oni pohlížet na vědomí jako na formu výpočtu), vědomí není nic jiného než sada chytrých algoritmů běžících na stroji Turing. Funkce jsou důležité pro vědomí mozeka nikoli jeho kauzální vlastnosti. Pokud nějaká pokročilá verze GPT přijme a vytvoří stejné vstupní a výstupní vzorce jako lidé, pak se všechny naše přirozené vlastnosti přenesou do technologie. Včetně našeho vzácného pokladu – subjektivní zkušenosti.
Naopak pro integrovanou informační teorii je srdcem vědomí vnitřní kauzální síla, nikoli výpočet. Není to nic éterického nebo nehmotného. Je specifická a funkčně určena tím, do jaké míry minulost systému určuje jeho přítomnost (síla příčiny), a tím, do jaké míry přítomnost určuje jeho budoucnost (síla účinku). A tady je háček: samotný vztah příčiny a následku, schopnost donutit systém k provedení určité akce, a ne mnoho alternativních, nelze modelovat. Ani teď, ani v budoucnu. To by mělo být zabudováno do systému.
Uvažujme počítačový kód, který modeluje rovnice pole Einsteinovy obecné teorie relativity, které spojují hmotnost se zakřivením časoprostoru. Software přesně modeluje supermasiv Černá díra, který se nachází ve středu naší galaxie. Tato díra má tak silný gravitační vliv na své okolí, že nic, ani světlo, nemůže uniknout jejímu tahu.
Astrofyzika simulujícího černou díru však simulované gravitační pole nenasaje do notebooku. Tento zdánlivě absurdní postřeh zdůrazňuje rozdíl mezi modelem a realitou: pokud je model úplný odpovídá realitě, kolem notebooku by se měl zkreslit prostor a čas a vytvořit tak černou díru, která vše pohltí kolem.
Gravitace samozřejmě není výpočet. Má kauzální sílu, která mu umožňuje deformovat tkaninu časoprostoru a přitahovat vše, co má hmotnost. Simulace kauzálních sil černé díry vyžaduje skutečný supertěžký objekt, nejen počítačový kód. Kauzální sílu nelze modelovat, musí být vytvořena. Rozdíl mezi realitou a modelem spočívá v jejich kauzální síle.
Proto uvnitř počítače simulujícího bouřku neprší. Software je funkčně identický s počasím, ale postrádá kauzální sílu k uvolnění páry a její přeměně na vodní kapky. Do systému musí být zabudována kauzální síla, schopnost vytvářet nebo přijímat změny vlastními silami. Je to možné.
Takzvaný neuromorfní nebo bionický počítač může být stejně vědomý jako člověk. To ale není případ standardní von Neumannovy architektury, která je základem všech moderních PC. V laboratořích byly vytvořeny malé prototypy neuromorfních počítačů, jako je druhá generace neuromorfního čipu Loihi 2 od Intelu. Ale dostatečně sofistikovaný stroj na to, aby vytvořil něco, co se podobá lidskému vědomí nebo alespoň vědomí ovocné mušky, je stále ambiciózním snem pro vzdálenou budoucnost.
Všimněte si, že tento nesmiřitelný rozdíl mezi funkcionalistickou a kauzální teorií nemá nic společného s přirozenou ani umělou inteligencí. Jak jsem řekl dříve, inteligence je chování. Cokoli, co dokáže vytvořit lidská vynalézavost, včetně tak skvělých románů, jako je Podobenství o rozsévači Octavie Butlerové a Lva Tolstého Vojna a mír, mohou reprodukovat algoritmickou inteligenci, pokud je jim poskytnut dostatek materiálu výcvik. Nástup AGI je cíl dosažitelný v nepříliš vzdálené budoucnosti.
Debata není o umělé inteligenci, ale o umělém vědomí. A tuto debatu nelze vyřešit vytvořením větších jazykových modelů nebo pokročilejších algoritmů neuronových sítí. Abychom na tuto otázku odpověděli, musíme pochopit jedinou subjektivitu, kterou jsme si naprosto jisti: svou vlastní. Jakmile budeme mít jasné vysvětlení toho člověka vědomí a jeho neurálním základem, budeme schopni rozšířit naše chápání na chytré technologie konzistentním a vědecky podloženým způsobem.
Tato diskuse má malý vliv na to, jak budou chatboty vnímány společností jako celek. Jejich jazykové znalosti, znalostní základna a sociální šarm se brzy stanou dokonalými. Budou obdařeni dokonalou pamětí, schopností, rozvahou, uvažováním a inteligencí. Někteří dokonce tvrdí, že tyto výtvory velké technologie budou dalším krokem v evoluci, Nietzscheho „superman“. Zaujímám temnější pohled a věřím, že takoví lidé si úbytek našeho druhu pletou s úsvitem.
Pro mnoho a možná většinu lidí ve stále více atomizované společnosti, odtržené od přírody a organizované kolem sociálních sítí, bude emocionálně obtížné odolat technologiím, ve kterých žijí telefony. A v různých situacích, obyčejných i vážnějších, se lidé budou chovat, jako by chatboti měli vědomí, opravdu mohou být zamilovaný, trpět, doufat a bát se, i když nejsou ničím jiným než složitými vyhledávacími tabulkami. Stanou se pro nás nepostradatelnými, možná ještě důležitějšími než skutečně inteligentní bytosti. Ačkoli chatboti cítí stejně jako televize nebo toustovač – nic.
Co si k tématu ještě přečíst🤖
- 6 důvodů, proč byste neměli slepě věřit umělé inteligenci
- Proč bychom se neměli bát, že nám nové technologie vezmou práci
- Technologická singularita: je pravda, že se technologie brzy vymkne naší kontrole?
- 8 mýtů o umělé inteligenci, kterým věří i programátoři