A(I)POKALYPSE MED FILOSOFISKE UNDERTONER
Jan Grue kaster seg inn i nisjesjangeren «filosofisk thriller» med en spennende og, om enn noe narrativt haltende, filosofisk interessant roman om løpsk teknologi.
Publisert
Sist oppdatert
Mennesker har bestandig reflektert over og vært skeptisk til teknologiens konsekvenser for samfunn og individer. Platon var som kjent skeptisk til skrivekunsten: i Faedrus argumenterer Sokrates for at å lene seg på det nedskrevne ord kan hindre sann forståelse og føre til glemskhet. I vår tid har populariseringen av kunstig intelligens gjennom språkmodeller som ChatGPT gjort teknologiskepsis til allemannseie. Men mens en generisk teknologikritikk kan være nyttig, er den sjelden filosofisk interessant.
Med det som bakteppe er det imponerende at Jan Grue nettopp klarer å gjøre Det kinesiske rommet (2024) til en genuint filosofisk bok. Som en «filosofisk thriller» beskriver romanen på overflaten et mulig dystopisk fremtidsscenario hvor løpsk teknologi truer samfunnets grunnvoller. Men under overflaten liggeren rekke etiske, politiske, og filosofiske problemstillinger som løfter boken fra en ren spenningsroman til noe mer filosofisk interessant. Det hjelper også at vi – og det er en sjeldenhet, må vi si – får lese om en filosofiprofessor som hovedkarakter. Dermed er det kort mellom de filosofiske referansene, og boken bidrar til å levendegjøre filosofiske spørsmål som ofte kun blir behandlet i det abstrakte. Til tross for noen narrative snarveier og delvis overfladisk beskrevne karakterer blir det derfor, som filosofisk interessert, vanskelig å ikke trekke boken til sitt bryst.
Grue er professor i lingvistikk ved Universitetet i Oslo. Han debuterte som skjønnlitterær forfatter med en novellesamling i 2010, og har skrevet flere prisbelønte bøker siden. Det kinesiske rommet er hans klart mest filosofiske prosjekt til nå, og ble publisert mot slutten av fjoråret. Her introduserer han etiske problemstillinger som aktiv dødshjelp, filosofiske zombier og datamaskinenes potensielle evne til bevissthet, i tillegg til hvordan teknologiens påvirkning på oss. Det hele kulminerer i et slags apologia for den narrative forestillingsevnen og viktigheten av fortellinger, som et motsvar til en rent instrumentell og nyttemaksimerende fornuft.
Searles kinesiske rom
Bokens tittel gir oss et hint om hva som venter oss mellom permene. Det kinesiske rommet er et velkjent tankeeksperiment fra den innflytelsesrike filosofen John Searle, som i 1980 brukte det i argumentasjon mot funksjonalisme i bevissthetsfilosofien. Mer spesifikt brukte han det for å argumentere mot det han kalte for «sterk KI» (strong AI).1 Ifølge sterk KI kan en datamaskin, når den blir korrekt programmert, faktisk forstå og inneha andre kognitive tilstander. For tilhengere av sterk KI er ikke datamaskiner bare en nyttig analogi for hvordan vi kan forstå menneskelig bevissthet. For dem er det ingen grunn til å trekke et skarpt ontologisk skille mellom datamaskinen og menneskets bevissthet: datamaskiner kan være et sinn.
Men se for deg, sier Searle, en person i et rom fullt av kinesiske bøker, og som ikke kan kinesisk. Deretter får personen et sett med regler, skrevet på forståelig engelsk, som gjør det mulig å sette sammen kinesiske tegn. Basert på reglene kan personen manipulere de kinesiske tegnene slik at han kan svare på spørsmål eller fortelle historier på kinesisk. Personen kan ikke kinesisk, og forstår ikke betydningen av tegnene han setter sammen. Fra perspektivet til en kineser vil det se ut som at personen i rommet kan kinesisk: med gode instruksjoner vil ethvert kinesisk spørsmål kunne besvares av personen i rommet. Men personen har ikke forståelse for hva han skriver, og vet ikke egentlig hva som foregår, ifølge Searle. Han er kun veldig god på å manipulere symboler.
Searles tankeeksperiment har gitt opphav til en rekke spørsmål om forholdet mellom menneskelig bevissthet og datamaskiner blitt reist, også utenfor diskusjonen om sterk KI. Kan vi, for eksempel, vite at andre mennesker ikke fungerer på lignende måte som en maskin? Og hvis vi ikke i praksis kan skille mellom en datamaskin og et menneske: Bør vi da, moralsk sett, behandle de ulikt?
En nært forestående dystopi
Det kinesiske rommet finner sted i 2027. Mye er som vi kjenner det. Elon Musk er aktiv på X, og kriger raser i Ukraina og Midtøsten. Vi følger hovedkarakteren Philip gjennom OsloMets campus, på Georg Kaffebar på Blindern og vandrende gjennom Oslos gater. I tillegg møter vi blant annet barnehagearbeideren Jorun og sykehjemsansatte Eleanor. New Public Management, mobiltelefonenes distraherende tilstedeværelse og en sterkt presset helse- og omsorgssektor skaper et velkjent bakgrunn av normalitet.
Vi møter også en rekke karakterer fra ulike deler av verden. Blant dem er litteraturviteren Angelika fra Russland, israelske Miriam, den politiske rådgiveren Eizhi fra California og Jin fra Kina. Den mangfoldige karaktergalleriet legger til rette for en balanse mellom det globale og det lokale. Og selv om Philip nok kan sies å være bokens hovedkarakter, fremstår den som en kollektivroman – som en roman hvor fokuset ikke er på én person, men heller på hva som skjer med en gruppe av mennesker. Det fører til at boken til tider oppleves frenetisk, og til andre tider forutsigbar. Med liten plass til karakterutvikling og dybde, og liknende skjebner for mange karakterer, oppleves noen av kapitlene som transportetapper. Prisen å betale for det internasjonale persongalleriet og den omfattende problembeskrivelsen er en korresponderende mangel på dybde og karakterutvikling. Der Karl Ove Knausgårds Morgenstjernen-serie har en lignende fortellerform, er det ikke uten grunn at han på sin side har viet minst seks bind til prosjektet.
Sarkokapsler og utilitarismekritikk
I Det kinesiske rommet forløses en hverdagslig normalitet av foruroligende og stadig mer bisarre situasjoner. Mennesker over hele verden blir mer fraværende, og mindre empatiske. De får et langt mer instrumentelt tankesett, og bli tilsynelatende en ensformig masse med beinharde utilitarister. Bør samfunnet egentlig ta vare på gamle og trengende? Nei, mener plutselig Philips studenter. «Å behandle en åttiåring med kreft er irrasjonelt. Uansett hvordan det går, vil ikke det mennesket kunne bidra i samfunnet. De pengene kunne blitt brukt på yngre pasienter ...» mener de plutselig. Men hva, kontrer Philip, med barn med medførte tilstander, som vil bli en byrde for samfunnet? «De barna burde ikke blitt født», kommer det kontant tilbake. Thrilleren blir komplett når Philips veileder og professor i filosofi, Johannes, mener at humaniora og kunst er «marginale områder ... på ingen måte samfunnskritiske».
Den instrumentelle fornuften som etter hvert omslutter karakterene, er beskrevet slik at det er vanskelig å unngå å ta stilling til den – både moralsk og politisk. Et godt eksempel på er en episode som oppstår kort tid etter Philip har ankommet USA på en reise. I California er det plassert ut nye gjenstander på gaten. «Tingesten er avlang og med avrundede kanter, først minner den Philip om en diger skiboks, men den er skråstilt, plassert oppå en sokkel ... laget i glinsende metall og et fiolett, halvgjennomsiktig materiale.» Philip hjelper en person inn i den, og ser at den blir skrudd på. Er det et slags sovested for uteliggere, eller medisinsk behandling? Nei. Kort tid etter lyser den «awaiting collection». En ambulanse ankommer, og henter ut det som nå er blitt et lik. Der Philip tror det har skjedd en ulykke, er handlingene rent prosedyremessige. Liket blir kjørt bort som om ingen ting har skjedd.
Om det høres ut som fjern sci-fi, er maskinen Grue beskriver her høyst reell. I 2018 utviklet Philip Nitschke, en australsk aktiv dødshjelp-aktivist, nettopp en såkalt «sarkokapsel». Maskinen erstatter oksygenet i luften med nitrogen, noe som forårsaker en rask død. I 2024 tok en 64 år gammel kvinne i USA selvmord i en 3D-printet versjon av en sarkokapsel.2
I Det
kinesiske rommet blir med andre ord selvmordsmaskiner plutselig en
selvfølgelig del av bybildet. Og den forvirringen og vantroen Philip kjenner på
i møte med det rent oppskriftsmessige forholdet til døden er skrevet for å
resonnere hos leseren. Man kan med det lese boken dithen at den ber oss ta
stilling til de praktiske konsekvensene av en viss utilitaristisk forståelse av
etikken. Den ultrautilitaristiske moralen omslutter karakterene, som et virus
på avveie, leder til en rekke absurde og dystopiske situasjoner.
Boken kan med det leses som en generell kritikk av nyttemoralens praktiske konsekvenser. At det ved visse tilfeller nettopp kan være nyttig å drepe ens eget nyfødte barn av hensyn til en totalvurdering av situasjonen – slik en scene i boken utspiller seg – er nettopp en av de mer velkjente og kontroversielle implikasjonene av visse typer utilitarisme. I Practical Ethics (1993) skriver blant annet Peter Singer følgende om det å drepe nyfødte:
«...we should put aside feelings based on the small, helpless, and – sometimes – cute appearance of human infants. … If we can put aside these emotionally moving but strictly irrelevant aspects of killing a baby we can see that the grounds for not killing persons do not apply to newborn infants.»3
I Det kinesiske rommet virkeliggjøres deler av den utilitaristiske moralen, og et spedbarnsdrap kan forklares med nyttehensyn. Om enn noe karikert, fletter boken inn interessant og anerkjent kritikk av konsekvensialismen mer generelt. Det er noe absurd over den manglende evnen til å anerkjenne personlige relasjoners viktighet for våre moralske beslutninger, og det altomfattende fokuset på nytteverdi som sprer seg blant karakterene i boken utsletter nettopp slike relasjoner fra det moralsk relevante. Grue forsøker å tydeliggjøre de absurde praktiske konsekvensene som følger av denne posisjonen: Vil ikke det innebære en slags filosofisk zombie-moral?
En utilitarist kan fristes til å svare med at de absurde situasjonene Grue beskriver i bunn og grunn er uheldige «intuition pumps» – det vil si et tankeeksperiment laget for å styre våre reaksjoner i velkjente mønstre, og dermed filosofisk verdiløst. Daniel Dennett introduserer begrepet i Consciousness Explained (1991), i argument mot Searles tankeeksperiment om nettopp det kinesiske rommet.4 Skisserer boken egentlig en utopi?
Det kan diskuteres til et evinnelige. Likefullt er det tydelig at Grue løfter disse argumentene og filosofiske perspektivene på en mer eksplisitt måte enn andre romaner, laget for å gjøre leseren oppmerksom på de filosofiske svakhetene ved deler av utilitarismen. Han skriver spesielt godt når han ironiserer over nyttemaksimets konsekvenser i hverdagslige situasjoner, som når en viss amerikansk rektor ved OsloMet, som «utstråler selvsikkert lederskap» og er «for energisk for akademia, by far», uttaler at en selvmordsbølge blant studentene ikke er et problem fordi det ikke fører til en «signifikant nedgang i studiepoengreduksjonen».
Påvirker teknologien vår virkelighetsoppfatning?
Men kritikk av utilitarisme er ikke den eneste filosofiske lesningen som Grue legger opp til i sin bok. De raske og fryktinngytende endringene som karakterene i boken gjennomgår, gir assosiasjoner til sentrale idéstrømninger i teknologiens filosofi. Sokrates sin kritikk av skrivekunsten er kanskje ikke så irrelevant som den kan høres ut som: Erkjennelsen av at teknologi i stor grad preger hvordan vi tenker på og forholder oss til verden har fått mange interessante utspring, og boken kan leses som en undersøkelse av teknologiens evne til å endre måten vi tenker på. Her seiler Grue i medvind fra innflytelsesrike filosofer fra forrige århundre.
I essayet «The Question Concerning Technology» (1977 [1954]) diskuterer Martin Heidegger hvordan teknologi ikke bare er uskyldige redskaper, men måter å avdekke og «bruke» virkeligheten på.5 Med teknologien i vår hånd ser verden annerledes ut, og en overdreven bruk av teknologi kan overkjøre andre former for væren. Han introduserer begrepet Gestell – som på norsk kan oversettes til «innramming» – for å beskrive hvordan teknologien rammer inn vår tilnærming og samhandling med verden.
Den franske sosiologen, filosofen og teologen Jacques Elluls The Technological Society (1967 [1954]) fortsetter den tankerekken i et mer sosiologisk lys. Ellul beskriver hvordan teknologien – eller mer bestemt teknikk gjennomsyrer samfunnet i så stor grad at den risikerer å ta over hele vår livsanskuelse. Og der «efficiency is the necessary criterion for the success of technique» risikerer vi også at effektiviteten blir det overordnede målet også for menneskelig samhandling og væren når teknologien gjennomsyrer vår hverdag. Faren Ellul beskriver er at mennesket reduseres til et objekt i et effektivitetssystem, heller enn at vi klarer å bevare vår distinkte menneskelighet.
Hvorvidt 1900-tallets teknologifilosofi direkte inspirerer Grues dystopiske fremtidsvisjon, er vanskelig å avgjøre. Men at Det kinesiske rommet rommer filosofisk dybde i tråd med Heidegger og Ellul, er tydelig. Her blir vi minnet om at teknologien kan strekke sine røtter dypt inn i våre sinn og forme hvordan vi forstår og handler i verden. Og dét er kanskje enda mer skremmende enn et løpsk virus – for et virus er tross alt en ekstern trussel, mens å miste oss selv til «tekno-logien» truer vårt innerste.
Den narrative forestillingsevnen
Der Heidegger og Ellul kan virke pessimistiske i sine beskrivelser av teknologiens påvirkning på oss, hinter Grue til en slags motgift mot det teknologiske «viruset»: Den narrative forestillingsevnen. Fortellinger – som distinkt fra hendelser og informasjon – seiler opp som helt sentralt for vår empati og mening. I en verden med en overveldende informasjonsflyt, opplysninger og hendelser, «bare én ting, og så en annen, i det uendelige» er det ikke rom for de fortellingene som binder oss sammen qua personer.
Også her lar Grue de filosofiske undertonene bli hengende i luften. I filosofien og psykologien er det derimot en rik tradisjon av idéer om narrativenes viktighet for formasjon av moralske evner. Martha Nussbaum har for eksempel viet mye plass i sitt forfatterskap til å filosofere om litteraturens rolle i utvikling av empati og samfunnsdeltakelse.6 Gjennom eksponering for ulike fortellinger fra ulike perspektiver kultiverer vi en evne til å sette oss inn i andres sted, og se andre som individer. Litteratur er ikke bare en fornøyelse eller god opplevelse, men en måte å trenge inn i en annens sinn på over en lengre tidsperiode. Vi må leve oss inn i karakterene for at romanen skal være interessant: Leserens følelser er bygget inn i selve strukturen av romanen, ifølge Nussbaum.
Det er kanskje heller ikke tilfeldig at demokratiets fremvekst og romansjangeren ble utviklet noenlunde samtidig, som Charles Taylor peker på.7 Ifølge Taylor fører romanformen som utviklet seg i starten av den moderne perioden med seg et langt sterkere individfokus enn tidligere tiders litteratur. Der den antikke litteraturen tok for seg arketyper er den moderne litteraturen langt mer partikulær i sitt fokus – og understreker personers unikhet og karakterutvikling.8
Kanskje blir også menneskene selv «kinesiske rom» når vi ikke dyrker vår narrative forestillingsevne, men forblir i vår egen emosjonelle boble. Da kan vi fremstå empatiske – uten reelt å forstå andres lidelse. Grue antyder en mulig løsning, men den kommer som en del av en overraskende platt og skuffende avslutning. Uten å røpe for mye kan jeg si at bokens finale føles som om den er skrevet under en stram ordgrense; den er både abrupt og forsøker å samle flere tråder uten at vi sitter igjen med noe virkelig mysterium å gruble på. Kanskje er det et resultat av et i overkant ambisiøst prosjekt?
Konklusjon
Jan Grue har skrevet en innholdsrik filosofisk roman. Han refererer til en rekke interessante filosofiske posisjoner og gjør dem tilgjengelige for et bredt publikum. Filosofiske zombier og utilitarisme blandes sammen i en herlig cocktail av referanser som enhver filosofisk interessert person vil ha glede av. Likevel har boken klare svakheter som spenningsroman: Det store persongalleriet og det repetitive «tankeviruset» gjør at uroen man kan kjenne på i starten av boken mister noe av sin slagkraft. Grues penn er på sitt skarpeste når han retter ironien mot norsk universitetssektor, og der hovedkarakteren i filosofiprofessoren Philip får skinne.
Alt i alt er Det kinesiske rommet mer vellykket som en filosofisk idéroman enn en thriller. Den gir oss en praktisk reise inn i problemstillinger om nytteetikk, teknologiens fremvekst og hva som skjer når empati erstattes av algoritmer og kalkyler. Og selv om mange trolig vil være uenige i hvorvidt bokens scener faktisk er implikasjoner av en utilitarisme på speed, er jo det også filosofisk interessant. For lesere med interesse for etikk, teknologiens filosofi og bevissthetsfilosofi har boken en fortjent plass i bokhyllen – selv om den kunne hatt godt av et par hundre sider til.
Noter
1. John Searle. “Minds, Brains and Programs”, The Behavior and Brain Sciences 3 (1980), 417-457.
2. https://www.wired.com/story/the-doctor-behind-the-suicide-pod-wants-ai-to-assist-at-the-end-of-life/
3. Peter Singer. Practical Ethics (2nd ed.), s. 170-171. Cambridge University Press, 1993.
4. Daniel C. Dennett. Consciousness Explained, s. 440. Back Bay Books, 1991.
5. Martin Heidegger. “The Question Concerning Technology” i Martin Heidgger: Basic Writings. Oversatt av William Lovitt. (1977 [1954]). https://www2.hawaii.edu/~freeman/courses/phil394/The%20Question%20Concerning%20Technology.pdf
6. Martha Nussbaum. Literaturens etikk. Redigert og oversatt av . Pax Forlag, 2017.
7. Charles Taylor. Sources of the Self: The Making of Modern Identity, s. 287. Harvard University Press, 1989.
8. Se for eksempel Linda Zagzebski, The Two Greatest Ideas: How Our Grasp of the Universe and Our Minds Changed Everything. Princeton University Press, 2021.
