Ole Asbjørn Ness og Elin Ørjasæter drøftet i en episode av Kulturnorge nylig hvordan kunstig intelligens blir en stadig større del av hverdagen i akademia. De var innom universitetenes konkurranse med private aktører, at bruken av verktøy som Claude og ChatGPT øker spriket mellom sterke og svake studenter, og hvordan universitetet som historisk institusjon kan ende opp med å bli akterutseilt raskere enn man kanskje skulle tro.

Ness var panegyrisk i omtalen av kunstig intelligens, og beskrev det blant annet som å ha Einstein «i lomma». Vi kunne høre om intelligente maskiner, uante muligheter for fremtiden og språkmodeller som knekker Turing-testen – noe som enda ikke hadde skjedd da han gikk på filosofistudiet. For kan maskiner egentlig tenke? Og vil universitetene på grunn av den raske teknologiske utviklingen stå overfor samme utfordring som klostrene gjorde i sin tid?

Men først litt skamløs populærvitenskap:

Turing-testen stammer fra Alan Turing, den britiske matematikeren som i 1936 la grunnlaget for den moderne datamaskinen i artikkelen «On Computable Numbers, with an Application to the Entscheidungsproblem», hvor han blant annet beskrev en hypotetisk «universal computing machine» som kunne utføre enhver logisk og matematisk beregning. I 1950 publiserte han artikkelen «Computing Machinery and Intelligence» som stiller spørsmålet om maskiner kan tenke. Her lanseres også the imitation game, eller det vi i dag kjenner som Turing-testen – en metode for å vurdere om datamaskiner utviser intelligent atferd på en måte som ikke kan skilles fra mennesker.

La oss si at du kommuniserer med en entitet du ikke kan se direkte, for eksempel via mail, teletype eller morse. Du vet ikke om du kommuniserer med et menneske eller en maskin. Oppgaven din blir derfor å stille spørsmål, drøfte, diskutere og vurdere responsen du får. Hvis maskinen klarer å lure deg til å tro at du snakker med et menneske, har den således bestått Turing-testen.

At en maskin består testen betyr ikke nødvendigvis at den er bevisst, for hvordan vet vi om en maskin kan forstå, for ikke å si føle, noe? Der Turing-testen først og fremst så etter menneskelignende kommunikasjon, har den etter hvert blitt knyttet til det generelle spørsmålet om bevissthet og intelligens i filosofiske kretser.

Kritikere har eksempelvis hevdet at det er en betydelig kvalitativ forskjell på å simulere bevissthet i motsetning til å være bevisst, samt forskjellen mellom å produsere forståelig output og å ha forståelse. På samme måte som en datamaskin som simulerer en skogbrann, ikke dermed har en brann «inni seg». Et av de mest kjente argumentene i denne debatten som fortsatt brukes mot tilhengerne av «sterk AI» i dag, er språkfilosofen John Searles tankeeksperiment The Chinese Room fra 1980:

Se for deg at du sitter i et rom, og at det plutselig sklir en papirlapp inn under døren din. På lappen er det flekker og tegn du ikke skjønner noe av. I rommet ditt er det imidlertid en stor manual som viser deg hvordan du skal svare. Du skriver noen flekker og tegn på en ny lapp og sender den i retur: din output er et godt svar på inputen, og prosessen gjentar seg.
Det viser seg at flekkene og tegnene på alle lappene i realiteten står på kinesisk, uten at du forstår et kvekk av den grunn. Du kan ikke kinesisk – du skjønner ikke meningen bak tegnene, eller at det er et språk overhodet – du produserer bare «blind» output ved å følge et knippe regler og instruksjoner.

En kinesisk person som står på utsiden av rommet vil imidlertid anta at du forstår språket, da det virker som dere kommuniserer godt på flytende mandarin. Du passerer dermed Turing-testen selv om du ikke forstår innholdet. The Chinese Room og spørsmålet om hva som egentlig konstituerer forståelse og intelligens er naturligvis fortsatt heftig debattert, og har fått ny aktualitet nå som språkmodellene bare blir bedre og bedre – i mange tilfeller med en kommunikasjon som er nærmest umulig å skille fra menneskelig kommunikasjon.

Det spøker kanskje for universitetene slik vi tradisjonelt kjenner dem? Den historiske statusen som kunnskapsprodusent, formidler og portvokter per excellence får seg i hvert fall et skudd for baugen når absolutt alle – lærere, medelever og fremtidige arbeidsgivere – vet at hver eneste eksamenstekst kan være resultatet av litt prompting i ChatGPT og Claude med påfølgende redigering av de mest utilgivelige tilfellene med AI slop.

Undertegnede snublet nylig over et innlegg ført i pennen av den anonyme skribenten John Carter, som sammenligner språkmodellenes inntog i akademia med hvordan Gutenbergs trykkpresse gjorde klostrenes scriptoria – deres automatiserte reproduksjon av tekst og rollen som historisk kunnskapsforvalter – overflødig nærmest over natten. Universitetene tok raskt posisjonen som det intellektuelle livets sentrum ved å fokusere på produksjon av ny kunnskap. Carter hevder at kunstig intelligens nå er for universitetene hva trykkpressen var for klostrene i sin tid.

Den reduserer kunnskapsproduksjonen til en slags masseprodusert handelsvare, med dramatiske ringvirkninger for den intellektuelle kulturen.

Han fortsetter: «Are mathematicians going to devote their careers to wrestling with the ten theorems Claude shat out in a million tokens and an hour of compute? Maybe it takes that long to check the AI’s work. Long before you're done, dead and buried, the AI crapped out another zillion new theorems. What's the point? Who even cares? Hence the demoralization. A crisis of meaning due to a collapse in purpose.»

Carters spådom er videre at AI-selskapene, i tillegg til å produsere kunnskap, i økende grad vil rette energien sin mot å produsere et sinn. Denne lange grenen på teknologiens tre bøyer seg altså ironisk nok helt tilbake til antikken og den moderne filosofiens oppblomstring: kjærlighet til kunnskap og åndslivets dyder. Men ikke uten problemer.

Han spør: «Who trains the trainers? You need to cultivate human minds, too. Again, the original purpose of the Academy. It's the one useful thing academia can still do, but academia does a shit job of it, which is a big part of why students are checked out.»

Det er lett å gi Carter rett i dette.

Hvis man dog ikke gir opp akademia, og hvis Searle hadde rett i at silikonchipene og transistorene i en datamaskin imidlertid aldri vil oppnå den type intelligens vi ser hos biologiske vesener, er det i det minste godt nytt for idealistene, autistene og nerdene, for ikke å snakke om gjengen som helst vil røyke hasj på parkeringsplassen bak Blindern og så drikke kaffe på Niels Treschows hus.
Det skal nok være både formål og mening igjen til de som tar opp studielån, får seg en deltidsjobb (gjerne begge i dagens marked ...) eller bare rawdogger det for å få tid til å dykke ned i spørsmålene som tross alt har holdt menneskeheten på tå hev gjennom flere millennia – istedenfor å prompte seg til en grad for så å raskest mulig kunne prompte ut en søknad til en bullshit-jobb som mellomleder i et tulleselskap hvor du prompter ut e-poster som svar på andre e-poster som igjen er promptet på bakgrunn av promptet til en mellom-mellomleder som for øvrig promptet seg til stillingen etter at en AI hadde blitt promptet til å gå gjennom alle søknadene som kom i kjølvannet av en promptet utlysning.

Dere får kanskje ikke jobb, men dere har i hvert fall en viktig jobb foran dere!