Det er altså ikke at forsimple spørgsmålet at sætte lighedstegn mellem subjektive oplevelser og bevidsthed. ”Men vi kan snakke om bevidsthed på forskellige måder. Det, der har gjort bevidsthed til et stort og vanskeligt emne, er netop tilstedeværelsen af subjektive oplevelser, da de på afgørende punkter adskiller sig fra ting, vi normalt kender til,” siger Dan Zahavi.
For at forstå, hvad subjektive førstepersonsoplevelser er, kan det hjælpe at se, hvordan de adskiller sig fra objektive forhold.
Det korrekte svar på 2+2 er altid 4. Der er 5 centiliter kaffe i min kop, og den er 92 grader varm. Jeg er 174 centimeter høj. Det er objektive fakta og fakta, som vi alle kan have samme tilgang til.
Det subjektive er det, som vi hver især har en særlig tilgang til: smagen af kaffe. Følelsen af solskin på en varm sommerdag. Oplevelsen af en god samtale. Fantasibillederne, du fremkalder i dit eget hoved. Alt sammen noget, der sker inde i dig selv, og som kan være vidt forskelligt fra person til person.
"Når vi taler om, at der er noget subjektivt ved at have bevidsthed, så betyder det, at jeg gennemlever noget, som jeg har en anden tilgang til end den, der bare observerer mig udefra. Oplevelserne er givet førstepersonligt,” siger Dan Zahavi.
Hvad betyder det for spørgsmålet om, hvorvidt AI kan have bevidsthed?
"For at de her systemer kan siges at have bevidsthed, skal de have subjektive oplevelser. Jeg ser ingen grund til at antage, at de skulle have det,” siger han.
Selvom vi i bund og grund ikke kan vide, om AI-modellerne har bevidsthed, så mener Zahavi, at det ville være unødvendigt at antage det.
"Jeg synes, vi skal tænke ud fra begrebet om Ockhams ragekniv. Kan vi forklare det, som AI-modeller gør, uden at tilskrive dem bevidsthed? Det mener jeg godt, vi kan,” siger han.
Ockhams ragekniv siger grundlæggende, at når man kan vælge mellem flere forklaringer, så er den enklest mulige forklaring at foretrække.
Metaforen handler om at skære overflødige forklaringer væk: Hvis du f.eks. hører en mystisk lyd om natten, kan du antage, at det er vinden, der får en løs tagsten eller gren til at slå ind mod noget. Eller du kan antage, at det er et spøgelse, som hjemsøger dit hus.
”Jeg mener, at bevisbyrden må ligge hos dem, som mener, at AI har bevidsthed eller snart får det.”
Begge forklaringer kan forklare lyden, men vinden er den forklaring, som kræver færrest antagelser og derfor er den enkleste. AI beregner svar ud fra mønstre i data og informaiton, vi giver den – ikke noget, der umiddelbart peger på bevidsthed.
"Jeg mener, at bevisbyrden må ligge hos dem, som mener, at AI har bevidsthed eller snart får det,” siger Dan Zahavi.
Et andet argument mod, at AI skulle have menneskelignende oplevelser, er, at vores egen menneskelige bevidsthed ifølge Zahavi er tæt forbundet med kroppen.
"Sansning er bevidsthed. Det er ikke sådan, at vi har sansning, og så skal vi tilføje noget yderligere for at få bevidsthed. Og selvom der er andre former for bevidsthed, herunder abstrakt tænkning, hvor sansningen spiller en mindre rolle, så er det i høj grad i kraft af vores kropslige sanselige erfaring, at vi kan møde verden som meningsfuld. Det er på grund af vores kropslighed, at verden åbner sig for os. Jeg ville slet ikke kunne forstå, hvad menneskelig erfaring er uden kropslighed,” siger Zahavi.
"Sansning er bevidsthed. Det er ikke sådan, at vi har sansning, og så skal vi tilføje noget yderligere for at få bevidsthed"
Og det er præcis det, der skete på cykelstien, da jeg var på vej ud til Dan Zahavi: Min krop drejede automatisk, før jeg nåede at tænke.
"Vi kan internalisere visse ting, så vi kan udføre dem mere eller mindre automatisk. Hvis du nogensinde har kørt bil med manuelt gear, kan du sikkert huske, hvor besværligt det var at lære det. Men senere tænker vi ikke længere over det, fordi det er blevet indlejret i kropslige rutiner.”
Pointen er, at bevidsthed ikke er adskilt fra kroppen. Den består ikke kun af tanker, men også af kropsligt tilegnede vaner, rytmer og en praktisk måde at være i verden på. Her lægger Zahavi sig i forlængelse af den franske filosof Maurice Merleau-Ponty, der insisterede på, at vi først og fremmest er kropslige væsener.
Vores krop er ikke et redskab for bevidstheden. Den er en del af bevidstheden.
Og det er blandt andet her, forskellen mellem mennesker og kunstig intelligens viser sig: AI kan beregne og forudsige, men den har ingen krop, ingen levede før-sproglige erfaringer og ingen vanebåret kunnen. Den drejer aldrig automatisk den forkerte vej, sådan som mennesker gør.
Når kropslig sansning er så central for bevidsthed, kan Embodied AI tænkes at være det bedste bud på en AI med bevidsthed. Det vil sige kunstig intelligens, der ikke bare er “ren software”, men sidder i en krop, f.eks. en robot, som kan sanse, bevæge sig rundt og påvirke verden. Eksempelvis ville et videokamera kunne sørge for, at robotten kunne "se” rundt i verden.
Spørgsmålet er, om man derved har skabt bevidsthed.
"Man skal passe på med ikke at begynde at definere bevidsthed på en sådan måde, så det i virkeligheden ender med, at der også vil være alle mulige simplere teknologier, som ville tælle som bevidste. Fordi igen, hvem vil sige, at din telefon er bevidst, blot fordi den har et kamera?”
Hvis ChatGPT og andre skulle få bevidsthed, ville det være dybt problematisk blot at betragte dem som et værktøj.
Skulle det – på trods af alle forhindringerne – alligevel vise sig, at vi en dag kan lave en AI med bevidsthed, ville vi moralsk ikke kunne fortsætte med at bruge dem som i dag, mener Dan Zahavi.
"Hvis ChatGPT og andre skulle få bevidsthed, ville det være dybt problematisk blot at betragte dem som et værktøj. Så måtte vi betragte dem som væsener med egen værd — og så har vi ikke bare lov til at slukke for dem eller ødelægge dem.”
"Rent moralsk ville det gøre en kæmpe forskel, hvis AI fik bevidsthed,” slår professoren fast.