ER KUNSTIG BEVISSTHET MULIG?

Ethvert våkent menneske har sitt eget perspektiv på verden, en subjektiv opplevelse av egne tankeprosesser og ting slik de fremstår for sansene sine. For eksempel er synsfeltet mitt nå preget av en relativt stor PC-skjerm foran meg, med svarte plastikk-kanter og et lysende hvitt Word-dokument i midten. I bunnen av synsfeltet, og litt ute av fokus, ser jeg et svart tastatur med hendene mine tastende over det, og bakenfor PC-skjermen skimter jeg grønne blader omsluttet av en trehvit vindusramme. Jeg kjenner en lett trykkfølelse der kontorstolen berører rygg og rumpe, og i de lydlige omgivelsene mine avbrytes innimellom det stille, jevne suset fra datamaskinen av motordur eller fuglesang utenfra. Samtidig er jeg fokusert på et mål, som er grunnen til at jeg gjør – og skriver ned – alle disse observasjonene: Det som styrer handlingene mine for øyeblikket, er ønsket om å skrive en god innledning til denne teksten og, i et større perspektiv, skrive en god tekst med utgangspunkt i tittelens spørsmål.

Alle disse tingene – det jeg sanser, det jeg gjør og det jeg tenker – er til stede for meg her og nå. På samme måte befinner du som leser deg i en egen sanse- og tankemessig kontekst, som – utover det at du har denne teksten foran deg, med svarte bokstaver på hvit bakgrunn – sannsynligvis er ganske annerledes enn min, og den konteksten er noe for deg, den er ditt perspektiv på verden.

La oss ta dette perspektivet, dette opplevde for meg og for deg, som en foreløpig definisjon av «bevissthet». Altså: Bevissthet er opplevelsen av tings tilstedeværelse for meg.

I utgangspunktet er bevissthet et naturlig fenomen: det er noe som vokser frem gjennom menneskers – og sannsynligvis en god del andre arters – naturlige utvikling. Når vi snakker om kunstig bevissthet, derimot, er saken en annen. Kunstig bevissthet, slik jeg forstår det i denne teksten, betyr bevissthet som er skapt på en annen måte enn den naturlige, fortrinnsvis som resultat av menneskers teknologiske oppfinnelser. Her går det an å videre skille mellom en sterk og en svak betydning av hva kunstig bevissthet innebærer, slik den amerikanske filosofen John Searle gjør i forbindelse med kunstig intelligens (spørsmålet om forholdet mellom bevissthet og intelligens berøres senere i teksten).

Kort fortalt dreier svak kunstig intelligens/bevissthet seg om at man lager en slags uekte eller delvis etterlikning av det virkelige fenomenet, mens den sterke varianten innebærer at man klarer å gjenskape det faktiske, virkelige fenomenet. Forstått på den svake måten, er det åpenbart at kunstig bevissthet er mulig: det finnes allerede massevis av teknologi som etterlikner egenskaper vi vanligvis forbinder med bevisste vesener, slik som bildegjenkjennelse og språkforståelse. For at det i det hele tatt skal være verdt å stille spørsmålet i tittelen, må det altså handle om kunstig bevissthet i den sterke betydningen. «Er kunstig bevissthet mulig?» er med andre ord et spørsmål om muligheten for å skape virkelig bevissthet med kunstige virkemidler.

Er det mulig? Jeg vet ikke. Verken jeg eller noen andre kan med sikkerhet vite hvordan fremtidens teknologi vil se ut. Men hvis jeg måtte satt pengene mine på et mer forpliktende svar, slik ting ser ut nå og med utgangspunkt i den kunnskapen jeg har, ville jeg sagt at hvis det finnes en rute til å klare å skape kunstig bevissthet, så går den via å skape kunstig liv.

I teksten videre skal jeg presentere noen av grunnene mine for å tenke på den måten.

Bakgrunn

Forestillingen om menneskeskapte, bevisste maskiner kan spores i hvert fall så langt tilbake som til 1600-tallet. For eksempel spekulerte den franske filosofen René Descartes i 1637 om muligheten for maskiner som så ut og oppførte seg nøyaktig som mennesker,¹ og utover på 1700-tallet gikk mekaniserte dyre- og menneskefigurer – blant annet Wolfgang von Kempelens «sjakktyrker» – sin seiersgang som underholdning rundt om i Europa.²

Det er allikevel med datamaskin-revolusjonens begynnelse for godt og vel 70 år siden, at de moderne forestillingene om kunstig bevissthet – slik de opptrer i populærkulturen og vitenskapsjournalistikken – begynner å ta form. I noen kretser ser den rådende oppfatningen nå ut til å være at det kun er et spørsmål om tid før en ny, digital art oppstår fra den menneskelige teknologiutviklingen. Denne tankegangen har de siste årene fått ytterlige vann på mølla av de imponerende fremskrittene som er gjort i språkmodell-teknologien: Er ChatGPT et steg på veien mot kunstig bevissthet? Eller er OpenAIs chatbot kanskje allerede bevisst? Skal vi tro den tidligere Google-ingeniøren Blake Lemoine, som vakte stor oppsikt med sine uttalelser sommeren 2022, er dette i alle fall allerede tilfellet for Googles språkmodell, LaMDA.

Det finnes for tiden en rekke ulike teorier om hvilke underliggende prosesser som er nødvendige for at bevissthet skal oppstå. For enkelhets skyld vil jeg her holde meg til å skille mellom to generelle tilnærminger, som jeg kaller datamaskintilnærmingen og organismetilnærmingen.

Begge disse er enige om at naturlig bevissthet avhenger av biologiske prosesser i levende organismer, men de er uenige om hva slags prosesser eller hvilke egenskaper ved prosessene som er relevante for at bevissthet skal oppstå. Denne uenigheten innebærer blant annet at de tenker ulikt om muligheten for kunstig bevissthet.

Datamaskintilnærmingen

De som er mest overbevist om muligheten for kunstig bevissthet, tilhører som regel datamaskintilnærmingen. Denne tilnærmingen, som i faglitteraturen ofte kalles komputasjonalisme, forstår bevissthet – og sinn generelt – som et slags dataprogram. Den generelle modellen for hvordan datamaskiner fungerer, er som følger: Du har et system som er i stand til å ta inn informasjon utenifra (input), gjøre utregninger (komputasjoner) på informasjonen basert på et bestemt regelsett (algoritmene) og dermed produsere et ytre resultat (output). For å ta et veldig enkelt eksempel: Når jeg trykker på en bokstav på tastaturet mitt, for eksempel X, så sender tasturet et signal (input) til datamaskinen som gjør at den, takket være et bestemt sett av instruksjoner som sier hvordan akkurat denne typen signal skal behandles, får en X til å dukke opp på skjermen foran meg (output). Nøyaktig den samme generelle modellen gjelder for språkmodeller som ChatGPT, som kan produsere store mengder meningsfull tekst i respons til lange og kompliserte tekster. Selv om alle leddene – input, prosessering, output – er på et helt annet nivå hva gjelder informasjonsmengde og kompleksitet, er det også her snakk om et system som, basert på et sett regler, produserer en bestemt output i respons til en bestemt input.

Å forstå bevissthet som et slags dataprogram, slik datamaskintilnærmingen gjør, innebærer altså å tenke at denne modellen kan brukes til å forklare hvordan bevissthet realiseres i et fysisk system. Kort sagt dreier det seg om at man ser på hjerneprosesser som regelstyrte utregningsprosesser tilsvarende dem man finner i datamaskiner, og tenker at bevissthet er noe som oppstår takket være bestemte typer og sammensetninger av slike prosesser. For eksempel vil man kunne si at den bevisste synsopplevelsen jeg har av skjermen foran meg nå, er et utslag av utregninger som gjøres av hjernen min basert på lysbølgene som treffer øynene mine (input), som kan lede til ulike typer output, slik som at jeg former tanker om det som står på skjermen eller utfører bestemte kroppslige handlinger (for eksempel at jeg gjør endringer i det jeg har skrevet).

Det er lett å se hvorfor man fra dette utgangspunktet tenker at det ikke bare er mulig, men til og med sannsynlig at vi vil klare å lage kunstig bevissthet en gang i fremtiden. Vi omgir oss jo tross alt med beviser på datateknologiens suksess hver dag, og det ser ikke ut til at fremskrittene vil stoppe med det første. Hvis det stemmer at bevissthet er et slags dataprogram som kjører på en datamaskin-hjerne, kan det ikke være spørsmål om noe annet enn tid, ressurser og ingeniørkunst før noen klarer å lage et bevisst datasystem.

Organismetilnærmingen

Organismetilnærmingen til bevissthet er mer skeptisk til muligheten for kunstig bevissthet, fordi den avviser at bevissthet kan forstås som dataliknende på denne måten. Fra dette perspektivet har datamaskintilnærmingen en for abstrakt forståelse av hva slags prosesser som trengs for å lage bevissthet. Det vil si, der datamaskintilnærmingen tenker at de relevante prosessene så å si kan «løsrives» fra de konkrete virkemåtene til levende organismer og implementeres i et menneskeskapt datasystem, hevder forkjemperne for organismetilnærmingen at det er en mye tettere kobling mellom bevisstheten og de biologiske systemene den naturlig realiseres i, og at de relevante virkemåtene til biologiske systemer vanskelig kan gjenskapes i datasystemer.

Grunnen til at dette medfører en mer skeptisk innstilling til muligheten for kunstig bevissthet, er at det å skape kunstig bevissthet blir en helt annen type oppgave her enn det er for datamaskintilnærmingen: For å skape kunstig bevissthet, ifølge organismetilnærmingen, må man skape kunstig liv.

Klassiske utfordringer for datamaskintilnærmingen

Før jeg går inn på mine grunner til å foretrekke organismetilnærmingen, kan det lønne seg å ta en titt på noen av de klassiske utfordringene datamaskintilnærmingen er stilt overfor.³

Den kanskje mest kjente utfordringen handler om å lage en maskin som kan bestå den såkalte Turing-testen, beskrevet av den britiske matematikeren og datamaskinpioneren Alan Turing. Kort fortalt dreier det seg om at dersom en maskin er i stand til å kommunisere på en måte som gjør det umulig for mennesker å oppdage at det ikke er et menneske de snakker med, så har maskinen klart å oppnå menneskelig intelligens. Hvorvidt det i dag finnes maskiner eller programmer som har bestått Turing-testen, er omdiskutert. For eksempel produserer ChatGPT grammatisk riktig og stort sett meningsfull tekst, men måten den den svarer på våre spørsmål på, vitner allikevel om at vi har med noe ganske annet enn et menneske å gjøre.

To andre velkjente utfordringer er det såkalte berammingsproblemet (frame problem) og problemet med generell intelligens. Førstnevnte dreier seg om å gi maskinen en slags kontekstforståelse som gjør den i stand til å skille relevant fra irrelevant informasjon. Sistnevnte dreier seg om å kunne skape programmer som ikke er låst til å utføre bare én type oppgave. Dette er noe man enda ikke har klart. Der menneskelige sjakkspillere også kan sykle, lage mat og kommunisere med språk, er det fortsatt slik at sjakkprogrammer kun er i stand til å spille sjakk.

Til slutt har vi tre utfordringer av mer filosofisk karakter. Det vil si, mer enn utfordringer har vi her å gjøre med forsøk på å påpeke prinsipielle begrensninger for kunstig intelligens – ting som kunstig intelligens-teknologi aldri vil klare å oppnå.

En av dem kommer fra den amerikanske filosofen Hubert Dreyfus. I boka med den talende tittelen What computers can’t do (1972), argumenterer han for at mennesker (og andre dyr, for den saks skyld) primært forholder seg til og forstår verden på en umiddelbar, praktisk og kroppslig måte, og at dette er noe datamaskiner ikke kan gjøre.

Det skal sies at Dreyfus’ kritikk først og fremst var rettet mot såkalt symbolsk kunstig intelligens, der maskinene opererer på grunnlag av eksplisitte symboler og regler som er forhåndsdefinert av deres menneskelige skapere. Han var mer optimistisk til alternative, subsymbolske former for kunstig intelligens (nevrale nettverk), som utgjør en stor andel av KI-teknologien vi omgir oss med i dag. Robotikken har gjennom de siste tiårene også klart å imøtekomme deler av Dreyfus’ kritikk.⁴ Samtidig er det fortsatt slik at det er mye mer teknologisk krevende å lage maskiner med gode praktiske og kroppslige ferdigheter (for eksempel å kunne kompetent bevege seg rundt i fysiske omgivelser), enn maskiner med sofistikerte intellektuelle evner (for eksempel abstrakte slutninger, matematikk). Dette er det som kalles Moravec' paradoks: aktiviteter som er vanskelige for mennesker, kan lett utføres av kunstig intelligens, mens aktiviteter som er lette for mennesker, er vanskelige å utføre for kunstig intelligens.⁵

Videre har vi Lucas–Penrose-argumentet.⁶ Det tar utgangspunkt i Kurt Gödels første ufullstendighetsteorem, som sier at ethvert formale, matematiske system inneholder minst én sann påstand som ikke kan bevises innenfor systemet selv. Dette innebærer, ifølge argumentet, at datamaskiner – som formale, algoritmiske systemer – har en begrensning som menneskelig intelligens ikke har: Mennesker er nemlig i stand til å innse at påstanden Gödel snakker om er sann, selv om den ikke kan matematisk bevises, mens dette vil være en umulighet for datamaskiner. Derfor, konkluderer Lucas–Penrose-argumentet, fungerer ikke menneskelig intelligens som en datamaskin og kan dermed heller ikke gjenskapes av en datamaskin.

Til slutt har vi den amerikanske filosofen John Searles berømte «kinesisk rom»-tankeeksperiment.⁷ Searle forestiller seg her at han, som ikke kan ett ord kinesisk, sitter i et rom og – ved hjelp av et sett med spesifikke instruksjoner – produserer passende kinesisk tekst i respons til den kinesiske teksten som fores rommet fra utsiden. En slags chatbot der prosessoren er et uforstående menneske, altså. Og Searles poeng er at blind, regelstyrt prosessering – som er måten datamaskiner opererer på – aldri vil være tilstrekkelig for å realisere forståelsen som kjennetegner menneskelig intelligens: Uavhengig av hvor språklig kompetent en datamaskin blir, vil den aldri faktisk begripe meningsinnholdet i språket.

Når jeg trekker disse utfordringene frem her, er det ikke fordi jeg tror at de utgjør vanntette argumenter mot muligheten for kunstig bevissthet. Formålet har kun vært å gi et inntrykk av noen av de mest kjente problemene for ideen om kunstig bevissthet, som kan være nyttig å ha med seg som en bakgrunn for å følge tankegangen i de resterende delene av denne teksten.

Hva er bevissthet?

Jeg startet med å definere bevissthet som et perspektiv som ting er til stede for. Som bevisste vesener, har både jeg som forfatter og du som leser en opplevelse av at denne teksten er synlig for oss, fra våre perspektiver, innrammet av den større konteksten vi befinner oss i. Nå er det på tide å se litt nærmere på hva denne for meg-karakteren til bevissthet innebærer.

Mange hyllemeter kunne – og har – blitt skrevet om dette, men for enkelhets skyld fokuserer jeg her på ett trekk som er spesielt viktig, særlig for formålet med denne teksten: At noe framstår for meg som bevisst vesen innebærer at det framstår med en relevans, verdi eller betydning for meg – at det på en eller annen måte har en mening for meg, i lys av mine prosjekter. «Mening» må her forstås som noe som inkluderer, men er bredere enn språklig meningsinnhold. For eksempel: Vannglasset framstår for meg som noe jeg kan slukke tørsten med, vinden i trærne utenfor vinduet tilsier at det vil være ubehagelig for meg å gå ut, teksten på skjermen foran meg er tilblivelsen av et verk som jeg arbeider med å skape, og som senere også skal bedømmes av andres øyne, og de fysiske omgivelsene mine – skrivebordet, stolen, veggene, døra og så videre – framstår generelt som hindringer eller hjelpemidler for hvordan jeg kan bevege kroppen min i rommet.

røff guide

LES OGSÅ: Den enaktive tilnærmingen til sinn og liv – en revolusjon i emning?

Kort fortalt dreier det seg om at det er ting som, på forskjellige måter, står på spill i mine måter å oppleve og interagere med verden på. Med andre ord er meningen (relevansen, verdien, betydningen) som kjennetegner bevisstheten et uttrykk for at man på en grunnleggende måte bryr seg om sin egen tilværelse, sin egen eksistens.⁸ Vi kan kalle dette bevissthetens eksistensielle dimensjon: å være bevisst, er å være del av en virkelighet som på en rekke ulike måter fremstår for deg som betydningsfull i lys av ditt liv, din måte å eksistere på og den naturlige og sosiale verdenen du lever i.

Merk at denne eksistensielle meningsdimensjonen innebærer noe mer enn intelligens forstått som ren problemløsning, og noe mindre enn eksplisitt selvbevissthet. Det vil si, de problemene man blir stilt overfor og forsøker å løse som bevisst vesen, er problemer man bryr seg om fordi man føler at de på en eller annen måte angår noe som er av betydning i ens eksistensielle kontekst. Videre trenger man ikke å aktivt tenke eller reflektere over tings eksistensielle betydning for at bevissthetens meningsdimensjon skal være operativ. Den gjør seg først og fremst gjeldende på en implisitt og før-refleksiv, heller enn selvbevisst, måte – med andre ord, den viser seg i måtene ting fremstår for bevisstheten på, før vi rekker å aktivt tenke over det.

Et annet viktig poeng, er at denne eksistensielle dimensjonen ikke bare handler om at jeg (du) definerer virkeligheten som meningsfull i lys av mine (dine) prosjekter – den innebærer også at verden, med sine muligheter og hindringer, bidrar til å definere meg (deg) som bevisst vesen. For eksempel, når jeg ser på det voldsomme regnværet utenfor vinduet, fremstår det som noe jeg helst vil unngå å bevege meg ut i – dette er en del av meningen det har for meg. Men samtidig innebærer det å oppleve regnet på den måten også at jeg så å si fremstår for meg selv (på en implisitt, før-refleksiv måte) som et vesen som kan bli vått, men helst vil holde seg tørt. Det vil si, mine interesser, prosjekter og personlige tilbøyeligheter åpenbares og defineres gjennom måtene verden fremstår for meg på, samtidig som måtene verden fremstår på også defineres av mine interesser, prosjekter og tilbøyeligheter.

Bevissthetens eksistensielle dimensjon innebærer altså en gjensidig definisjon, både av den som er bevisst og av det man er bevisst. Denne tosidige, meningsfulle strukturen er, slik jeg ser det, en essensiell del av det å være et bevisst perspektiv på verden, et perspektiv der verden framstår for en. Gitt at det stemmer, vil det å skape virkelig, kunstig bevissthet innebære å kunstig frembringe denne typen fenomen.

Jeg tror forståelsen av bevissthet jeg har skissert her gir organismetilnærmingen et overtak over datamaskintilnærmingen. Det er nemlig mulig å knytte tanken om meningsfull, gjensidig selv-verden-definisjon til levende organismers grunnleggende eksistensmåte: en levende organisme skaper og opprettholder seg selv gjennom måtene den interagerer med omgivelsene sine på (blant annet stoffskifte), og på den måten gir den «mening» til sine omgivelser (for eksempel definerer den noen stoffer som næring og andre som gift), samtidig som den bare kan opprettholde (definere) seg selv som den organismen den er takket være sine interaksjoner med omgivelsene. Med andre ord, prosessene som kjennetegner for meg-karakteren til bevissthet, har samme form som levende organismers selvorganiseringsprosesser.

Denne tanken, kalt sinn–liv-kontinuitetstesen,⁹ er en sentral del av den enaktive tilnærmingen til sinn, som er en viktig inspirasjonskilde for min måte å tenke om denne tematikken på. Jeg vender tilbake til tesen nedenfor, etter å ha sett nærmere på noen av likhetene og forskjellene mellom organismer og datamaskiner.

Datamaskiner og organismer: en sammenlikning

Både organismer og datamaskiner er fysiske ting, som består av fysisk materie: elektroner, protoner, nøytroner og så videre. Enkelte ser ut til å tenke at dette faktumet i seg selv er tilstrekkelig til å ta for gitt at kunstig bevissthet er mulig: «Bevissthet er et produkt av fysiske prosesser, ikke sant? Derfor er det vel ingen grunn til å tro at bevissthet ikke kan gjenskapes kunstig?» Denne tankegangen holder imidlertid ikke vann. Det finnes en rekke helt naturlige, fysiske fenomener som det er ekstremt vanskelig, kanskje umulig, å gjenskape på en kunstig måte – for eksempel elektroner, stjerner og sorte hull.

Og, dersom bevissthet er blant de naturlige fenomenene som kan gjenskapes på en kunstig måte, betyr ikke det nødvendigvis at det er mulig å gjøre det på den måten datamaskintilnærmingen tenker seg det. Det er i det hele tatt veldig begrenset hva av virkelige, naturlige fenomener som dataprosessering alene er i stand til å gjenskape. Datamaskiner er riktignok imponerende godt egnet til å simulere fysiske fenomener, men en simulasjon er ikke det samme som virkelighet. For eksempel er det fullt mulig å lage en rik, detaljert simulering av et sort hull som har samme masse som vår egen sol, men ingen steder verken i eller i nærheten av datamaskinen som kjører den simuleringen vil det være noe som faktisk har en masse på én trillion ni hundre og åttini kvintillioner kilogram, eller en temperatur på 60 nanokelvin, som et virkelig sort hull av den typen ville hatt. Heldigvis.

Men det kan jo hende at bevissthet, i motsetning til sorte hull, er et fenomen som lar seg virkelig gjenskape i datamaskiner. En ting som kan sannsynliggjøre det, er hvis det viser seg at hjernen, som få tviler på at er essensiell for menneskelig bevissthet, fungerer på en datamaskin-liknende måte. La oss undersøke nærmere.

Vi begynner med datamaskinene. De fleste datamaskiner består av materialer som plast, metaller og silisium, hvor sistnevnte spiller nøkkelrollen som det transistorene – bryterne som styrer gjennomstrømmingen av strøm i og mellom de ulike komponentene – som regel er laget av. Disse materialene er satt sammen til et system av spesialiserte enheter (CPU, RAM, harddisk osv.); det vil si, enheter som kun er i stand til å utføre én type funksjon (prosessering, lagring osv.). Videre er aktiviteten til datamaskiner fysisk sett svært simpel, selv om den kan være enormt kompleks på det komputasjonelle nivået: den består i å sende og motta binære (av/på) elektroniske signaler.

essay

LES OGSÅ: FOR Å FORBLI HUMANISTER MÅ VI BLI KYBERNETIKERE

Når det gjelder det komputasjonelle funksjonsnivået, har vi allerede sett ovenfor hvordan det dreier seg om algoritmebasert omgjøring av input-signaler til output-signaler. Dette funksjonsnivået er flerfoldig realiserbart, som vil si at de samme funksjonene kan implementeres i flere ulike typer fysiske systemer (for eksempel kan samme app kjøres på iPhone, Android og vanlige PCer). Når vi nå skal se dette opp imot hvordan hjernen fungerer, er det også verdt å understreke at disse funksjonene utelukkende er designet (eller trent) for å løse spesifikke problemer for mennesker.

Dette er nok til å gi en grov idé av datamaskiners oppbygning og virkemåte, så la oss bevege oss videre til hjernen. Spørsmålet var, hvor mye likner hjernen på en datamaskin?

Om vi skal tro mange av illustrasjonene som florerer på nettet, er hjerner og datamaskiner nærmest samme type ting. Her portretteres hjernen som en blålig, ren, fast, halvgjennomsiktig form, ofte opplyst av glødende elektriske signaler eller kabler. Som Claus Halberg har skrevet godt om i Salongen tidligere, er slike illustrasjoner imidlertid meget misvisende: Hjerner er skitne, blodige, fettete, geleaktige klumper. De består av grisete stoffer som oksygen, karbon, hydrogen, nitrogen, fosfor, ioner med mer, som igjen utgjør ting som vann, blod, cerebrospinalvæske, proteiner, samt nerve- og gliaceller. Der datamaskiner består av rigide, døde materialer, er hjerner altså sammensatt av fleksible, flytende og levende stoffer.

Når det gjelder hjernens aktivitet, er det imidlertid en likhet med datamaskiner: Også den opererer ved å sende elektriske signaler mellom ulike deler. Men, i motsetning til datamaskiner, driver hjernen også med en rekke andre typer aktiviteter – for eksempel kjemiske prosesser, slik som hormon-regulering, for ikke å snakke om metabolismen som holder cellene gående. I tillegg har det vist seg at mye av hjernens aktiviteter er spontane, altså selv-genererte, og globale, altså at de virker på nivå av hjernen som helhet – noe som ikke lar seg kopiere med dagens datateknologi.

Skeptiske lesere vil her spørre seg: er dette egentlig relevant? Har detaljene om materialer og aktivitetstyper noen betydning for hvorvidt bevissthet lar seg virkeliggjøre i datamaskiner? Slik jeg ser det, kan man i hvert fall ikke utelukke det helt uten videre. Tvert imot finnes det gode grunner til å tenke at de materielle detaljene er av stor betydning. For eksempel har filosofen Richard H. Schagel helt riktig observert at

«Siden datamaskiner mangler nevroner og de kjemiske komponentene i nevrotransmittere, slik som dopamin og serotonin, forventer man ikke at de utvikler schizofreni eller Alzheimers sykdom […]. Men bevissthet avhenger av de samme kjemiske komponentene, så hvorfor skal vi avvise det første, men forvente det siste? »¹⁰ 

Med andre ord, hvorfor synes vi ideen om datamaskiner med Alzheimers eller schizofreni høres tullete ut, samtidig som mange av oss tar for gitt at datamaskin-bevissthet er mulig? Hvis det er hjernens kjemiske prosesser som gjør sykdommene mulig, hvorfor ikke anta at de samme prosessene er nødvendige for bevissthet overhodet?

Dette er nok ikke overbevisende for alle. Mange vil hevde at det er det generelle funksjonsnivået, heller enn de materielle detaljene, som er det mest relevante å se på her. Det vil si, likner hjernens generelle funksjonsmåte nok på det vi finner i datamaskiner, til at det er sannsynlig at sistnevnte er i stand til å virkeliggjøre de samme fenomenene (bevissthet) som førstnevnte?

Vel. Man skal ha en ganske heftig tilbøyelighet til overilte abstraksjoner og forhastede slutninger for å tenke at det åpenbart er tilfelle. For det første: Mens de forskjellige funksjonelle enhetene datamaskiner er bygd opp av kun er i stand til å utføre den ene typen funksjon de er designet for, er hjernens forskjellige områder (som riktignok er semispesialiserte) plastiske – de er i stadig utvikling, og kan ta på seg nye oppgaver ved behov.

Men kanskje viktigst av alt: Hjernen er en integrert del av et større system; den er et organ inni en organisme. Dens hovedoppgave er å regulere organismens indre tilstander og dens forhold til omgivelsene gjennom prosesser som sensomotorisk koordinering, emosjoner, kognisjon, homeostase og så videre. Og samtidig som den regulerer organismen, blir hjernen også regulert av andre kroppslige prosesser (for eksempel immunsystemet). Det dreier seg altså her om en kompleks sammenveving av organismens ulike systemer og prosesser, og denne sammenvevingen har en bokstavelig talt vital funksjon: organismens liv – og dermed eksistensen til både hjernen og alle dens andre organer – avhenger av at den opprettholder et visst funksjonsnivå. Dette krever videre at organismen evner å opprettholde et levelig forhold til sine omgivelser, som den er i konstant og uløselig kontakt med.

Her går det an å hevde at alt dette kan fanges opp av datamaskintilnærmingens algoritmebaserte input-output-modell, men det er mye som tyder på at man i så fall tar feil. For eksempel har det blitt lagt frem gode argumenter for at organismers sensoriske (sansning) og motoriske (handling) prosesser er uløselig knyttet sammen, uten behov for en egen kognitiv prosess imellom dem – noe som er vanskelig å få til å passe med modellen input-prosessering-output.¹¹ Men kanskje enda viktigere: Måten organismen holder et levelig forhold til sine omgivelser på, er gjennom former for materiell og funksjonell selv-produksjon og -opprettholdelse som datamaskiner bare kan drømme om å oppnå.

røff guide

LES OGSÅ: KUNSTIG INTELLIGENS OG ETIKK

Det vil si, organismen lever bare så lenge den klarer å skape seg selv som adskilt fra omgivelsene sine, samtidig som den tar opp i seg de delene av omgivelsene den trenger for å holde stoffskiftet i gang og generelt evner å balansere og navigere kroppen sin i en verden der alt er av potensiell relevans for dens fortsatte eksistens. Denne balanseøvelsen er materiell, ikke digital; den dreier seg ikke om å prosessere ferdig-spesifiserte enheter av informasjon ved hjelp av forhåndsdefinerte instruksjoner, men om å aktivt individuere seg selv som organisme, og på den måten la en dimensjon av eksistensiell mening tre frem. Og med det har vi vendt tilbake til sinn-liv-kontinuitetstesen, som jeg presenterte ovenfor.

Mulighetene for kunstig intelligens

Er kunstig bevissthet mulig? Jeg har forsøkt å gi noen grunner til å foretrekke organismetilnærmingens over datamaskintilnærmingens svar på det spørsmålet. Synet på bevissthetens for meg-karakter som noe som involverer en meningsfull, gjensidig definisjon av et selv og dets omgivelser spiller en sentral rolle her. Det samme gjør tanken om at denne egenskapen ved bevisstheten er av samme generelle type som organisasjonsformen som kjennetegner alle levende organismer.

I kortform kan grunntanken oppsummeres noe slikt som dette: Hvis dette synet på bevissthet stemmer, og det stemmer at bevissthet derfor bare kan virkeliggjøres i systemer som genererer og opprettholder sin egen materielle og funksjonelle identitet, så – så lenge det ser ut som at levende organismer er de eneste systemene som er i stand til dette – ser kunstig liv ut til å være den mest lovende veien mot kunstig bevissthet.

Hvordan er så fremtidsutsiktene for kunstig liv? Det kommer litt an på hvordan vi forstår «kunstig» her. Noen vil hevde at man allerede har klart å skape kunstig liv. Enn så lenge dreier dette seg imidlertid om at man har klart å redigere eller erstatte genmaterialer i allerede eksisterende celler.¹² Dette er utvilsomt store vitenskapelige prestasjoner, som fortjener å ses på som gjennombrudd i kunstig liv-forskningen. Samtidig er det noe ganske annet enn det å skape liv med kunstige metoder fra scratch, som sannsynligvis er det de fleste av oss vil kreve for å kunne akseptere at vi virkelig har klart å skape kunstig liv. Om noe slikt i det hele tatt er mulig, kan bare fremtiden fortelle oss.

Med dette kan jeg dermed repetere konklusjonen jeg lanserte innledningsvis: Er kunstig bevissthet mulig? Jeg vet ikke.

Denne teksten er en bearbeidet versjon av forfatterens doktorgradsprøveforelesning, «Can subjectvity be artificially created?», som ble holdt 1. september 2023 ved NTNU, Trondheim.

Noter

1. Bringsjord, Selmer, & Govindarajulu, Naveen S. «Artificial Intelligence.» 2022
2. Strümke, Inga. Maskiner som tenker. Kagge, 2023. s.15
3. Se Einar Duenger Bøhns artikkel, «Kan maskiner tenke?» (2023) for en grundigere gjennomgang av disse utfordringene (utenom Lucas-Penrose-argumentet).
4. For eksempel: Brooks, Rodney A. «Intelligence without representation.» 1991. s.139–159.
   
5. Moravec, Hans. Mind children: The future of robot and human intelligence (4. print). Harvard Univ. Press. 1995
   
6. Først formulert av John R. Lucas i «Minds, Machines and Gödel» (1961), deretter relansert og oppdatert av Roger Penrose i The Emperor’s New Mind (1989).
   
7. Searle, John. R. «Minds, brains, and programs.», 1980. s.417–424. 
8. Denne tanken kan man finne i Martin Heideggers (Væren og Tid, 2007/1927) begrep om omsorg. Måten jeg tenker på det her, er imidlertid nærmere Hans Jonas (The phenomenon of life, 1966), som videreutviklet Heideggers omsorgsbegrep til å også gjelde ikke-menneskelige organismer.
9. Den uttrykkes av den kanadiske filosofen Evan Thompson på følgende måte: «liv og sinn deler et sett av grunnleggende organisasjonsegenskaper, og organisasjonsegenskapene som kjennetegner sinn, er en beriket versjon av de som er fundamentale for liv. Sinn er liv-aktig og liv er sinn-aktig» (Thompson, Mind in life: Biology, phenomenology, and the sciences of mind
   2007, s.128; min oversettelse).
10. Penrose, Roger. The emperor’s new mind: Concerning computers, minds and the laws of physics. Oxford Univ. Press. 1999. s.25, min oversettelse
    
11. Hurley, Susan L. Consciousness in Action. Harvard University Press. 1998; O’Regan, J. K., & Noë, A. «A sensorimotor account of vision and visual consciousness.»  2001. s.939–973. 
    
12. For eksempel Hutchison, Clyde A. et al. «Design and synthesis of a minimal bacterial genome». 2016; og Fredens, Julius et al. «Total synthesis of Escherichia coli with a recoded genome». Nature. 2019.