”We’re building God”.

”We’re creating God.”

”Does God exist? Not yet.”

Når ekstremt velhavende og indflydelsesrige tech-oligarker hævder, at de med kunstig intelligens er ved at ”bygge Gud”, eller noget lignende, er det ikke bare et kuriosum eller et eksempel på at innovative iværksættere kan være temmelig excentriske.

Det er et teologisk problem.

AI-industrien har da også fået kirkeligt og teologisk modspil. Senest fra Pave Leo XIV i den nyligt udsendte rundskrivelse Magnifica Humanitas, der er blevet bemærket for nogle rimelig skarpe udmeldinger om kunstig intelligens. Paven bygger sin kritiske stillingtagen op om en klar distinktion mellem to bibelske billeder: Babelstårnet og genopbyggelsen af Jerusalem efter det babylonske eksil (Neh 2-6). Pavens augustinske baggrund fornægter sig ikke, selvom de to billeder kun flygtigt sættes i forbindelse med Augustins klassiske skelnen mellem den jordiske by, der regeres af magtbegær, og Guds by, der regeres af kærligheden til Gud og næsten.

Vi står med kunstig intelligens med risikoen for at opføre et babelstårn, der måske nok er et storslået bygningsværk, men som er grundlæggende dehumaniserende, hedder det i den pontifikale rundskrivelse. Kunstig intelligens er ligesom anden teknologi ikke moralsk neutralt, da det altid er præget af de interesser, der har skabt den. I nogen grad er det allerede afgjort på forhånd, hvordan teknologi skal anvendes og hvilke problemer, den skal løse. Vi er derfor nødt til at forholde os kritiske, hvis ikke teknikken skal løbe af med os.

Trods de klare advarsler lander pavens rundskrivelse rimelig afbalanceret, så nye teknologier som kunstig intelligens ikke afvises som sådan. En skrappere stillingtagen findes hos den mangeårige miljøaktivist og nu rumænsk-ortodokse englænder Paul Kingsnorth. Vi lever i en teknologisk ”antikultur”, hævder Kingsnorth i sin bog Against the Machine: On the Unmaking of Humanity. Vi har afsat tidligere religiøse autoriteter, men med frigørelsen fra traditionelle normer og begrænsninger er vi i stedet blevet slaver af penge og teknik. I kernen af kulturen er nu ”maskinen”, der er ved at nedbryde og omskabe alt, både naturen og mennesket.

Kunstig intelligens er sidste led i fremvæksten af et nyt ”væsen”, en ny gud, som nok snarere er en ond dæmon, der kræver underkastelse og lydighed. Som hos paven er faren ifølge Kingsnorth ikke så meget, at teknikken, herunder den kunstige intelligens, bliver for menneskelig, men at mennesket bliver omskabt i maskinens billede – eller ligefrem at mennesket bliver ”unmade”, afskaffet, destrueret. Som alternativ anbefaler Kingsnorth, at vi giver os til at ”genopbygge” en ”kultur i menneskelig målestok” uden teknologisk omklamring.

Du bliver, hvad du tilbeder

Pointerne er egentlig ikke nye, men findes hos en lang række filosoffer, der i det tyvende århundrede advarede om teknikkens dehumaniserende tendenser. Jeg har før omtalt Jacques Ellul (se her), der påpegede, at la technique ikke bare er et spørgsmål om midler, men er blevet et mål i sig selv. Teknik lover frihed, men bliver uundværlig og tager dermed magten fra os. Vi tilpasser os gradvist teknikken, som nu ikke bare definerer midlerne, men også målet, som er mere af det samme, mere teknik.

Teknikken omskaber i processen mennesket i sit billede. Det er den pointe, der går igen hos Pave Leo og Paul Kingsnorth, men som i grunden er ligeså gammel som den bibelske religionskritik: ”Du bliver, hvad du tilbeder”, er kort sagt budskabet i salmernes bog, når det hedder om de falske ”gudebilleder”, at de, der har lavet dem, bliver stumme og døve som dem (Sal 115,4-8). Således også med kunstig intelligens, skal vi tro kritikerne. Gør vi kunstig intelligens til Gud, kommer den til at forme vores måde at tænke og agere på. Vores egen intelligens bliver kunstig og maskinel, som maskinens.

Det lyder måske hysterisk, men det er ikke kun kritikerne, der mener, at mennesket er ved at blive som maskinen. Tværtimod er det et erklæret mål for såkaldt transhumanisme – med en formulering lånt fra Nietzsche – at ”overvinde” eller ”overkomme” mennesket. Den tankegang er ligeså teologisk problematisk som påstanden om, at vi er ved at ”bygge Gud”. Ønsket om at ”overkomme” mennesket ved hjælp af teknologi indebærer, kunne man sige, en fornægtelse af, at menneskeheden i grunden allerede er overkommet – i Kristus. Som Pave Leo påpeger, kan kun Gud overvinde menneskets begrænsninger og skabe et nyt menneske (2 Kor 5,17).3 Dyrkelsen af teknikken er for så vidt ikke bare afgudsdyrkelse, men også en fornægtelse af evangeliet. 

Er kunstig intelligens ”ondt”?

Paul Kingsnorth beskriver kunstig intelligens som et overnaturligt, dæmonisk væsen, der er ved at manifestere sig. Internettet er dets nervesystem. Man fristes til at spørge, om kunstig intelligens er decideret ”ondt”, men det kræver selvfølgelig definition. Finder man Kingsnorths diagnose lige rigeligt mytologiserende, kan den måske suppleres af en klassisk teologisk forestilling om det onde som fravær eller mangel. Det onde er uden selvstændig væren og derfor i en vis forstand ”banalt”, som hos Hannah Arendt.

Hvis kunstig intelligens er ”ondt” er det næppe på grund af en iboende ondskab, men tværtimod på grund af dets mangler – fraværet af bevidsthed og dybere forståelse, som det kun kan efterligne. Forskellen på det menneskeskabte og det maskinskabte findes ikke i produktet som sådan, men i den subjektivitet og det kreative arbejde, der forbinder sig med det. Præstens prædiken kan erstattes af kunstig intelligens, og orglet sikkert streames fra Spotify, men derved mangler vi det, der giver forkyndelsen og musikken nærvær og mening. Kunstig intelligens er ”ondt” i banal forstand, hvis det tillægges den subjektivitet, der knytter sig til menneskelig kreativitet.

At det onde i klassisk teologi er fravær og mangel, betyder imidlertid også, at der er indbyggede grænser for det onde. Tilsvarende kunne man nok kritisere de nogle gange fatalistiske tendenser i moderne teknikkritik for at overse teknikkens iboende begrænsninger. Teknik har det som bekendt med at skuffe. Aktuelle dommedagsscenarier gør derfor – muligvis – samme fejl, som techentusiasterne, når teknikkens betydning overbetones.

Teknikken er ikke uendelig og almægtig, når det kommer til stykket, den er ikke ”gud”. Og dog kan den skabe nok så meget ravage alligevel, hvis vi opfatter den som sådan.

Behov for begrænsninger

Vi er under alle omstændigheder nødt til at sætte grænser for teknikken. Som Pave Leo udtrykker det i sin rundskrivelse, er det ofte i kraft af begrænsninger, at mennesket trives, snarere end på trods.4 Det betyder ikke at vi skal dyrke besvær og lidelse for dets egen skyld, men omvendt må det føre til en grad af tilbageholdenhed, når ny teknik lover nemme løsninger. Når teknikken kræver nådesløs effektivitet, er det oplagt at opsøge hellige steder både konkret og metaforisk, som ikke er underlagt teknikkens logik.

Paradoksalt nok kan netop begrænsninger åbne for noget større, hvilket som bekendt altid har været en pointe i kristendommens asketiske tradition. Paul Kingsnorth påpeger, at det eneste modsvar til teknikken er noget så gammeldags som grænser og begrænsninger (”borders”, ”boundaries”, ”limits”). Som så mange andre anbefaler han en tilbagetrukket åndelighed som modsvar til ”maskinen”. Det handler om at prioritere det stedforankrede, menneskelige relationer, bøn og historisk bevidsthed. Man kunne sikkert indvende, at det risikerer at blive mere navlebeskuende end egentlig kritisk, lidt for ”lokalistisk” – selvom der kan være noget om Elluls motto om at ”tænke globalt, men at handle lokalt”. Med henvisning til Simone Weil påpeger Kingsnorth behovet for ”rødder”, men det handler måske ligeså meget om at se udover den begrænsede virkelighed, vi befinder os i.

Måske er løsningen noget så simpelt som at vælge de simplere, mere ineffektive og begrænsede teknologier. Ved at vælge mere tilbagestående teknologier frem for det sidste nye, kan der opstå afstande og sprækker, der åbner for alternative perspektiver og tid til omtanke. Står valget mellem to teknologier, kan der være grund til at vælge den simpleste og mest ineffektive – leen frem for græsslåmaskinen, klaptelefonen frem for smartphonen, salmebogen frem for storskærmen. Svaret på teknikkens krav om effektivitet er med andre ord ineffektivitet.

Et spørgsmål om dannelse?

Måske det også handler om noget så gammeldags som dannelse. Klassiske filosofiske etikker lagde vægt på den karakterdannelse, der kræver fordybelse og engagement. Augustin bemærkede i sin bog Om den kristne taler, at vi har en tendens til at sætte mere pris på noget, hvis det har været svært at opnå. Det er grunden til at de bibelske tekster ofte fremstiller teologiske og filosofiske sandheder allegorisk, så de ikke er umiddelbart tilgængelige, men kræver refleksion og fordybelse.

Den pointe er indlysende relevant for vores brug af kunstig intelligens. Når spørgsmål kan besvares hurtigt uden besvær, går vi glip af den proces af tilegnelse, som ellers er forudsætningen for at kunne fastholde og internalisere den viden, vi har opnået. Teknikken fungerer i stigende grad som eksternaliseret tænkning og hukommelse, ”kognitiv outsourcing”, som det kaldes. Konsekvenserne for læring og uddannelse er allerede velkendte.

Med andre ord er der en særlig form for glemsomhed på spil i teknikkens herredømme. Alternativet kræver en accept af, at læring og tilegnelse nok tager tid, men at det er bedre at bruge hovedet end at overlade tænkning og erindring til teknikken. Som Pave Leo for nylig forklarede en flok skolebørn, handler det om at forberede sig og øve sig. Har man fx først læst kortet grundigt, har man ikke brug for GPS, når man skal finde vej. Pointen var selvfølgelig den mere principielle, at vi ikke må blive for afhængige af teknologien. Gud har givet os evnen til at tænke selv.

Åndelig oprustning

Skal vi partout tale om åndelig oprustning, handler det i høj grad om den gudgivne myndighed, der består i at være fri af ”magter og myndigheder” (fx Ef 6,12) som teknikken. Klassiske stoisk-kristne idealer om selvbestemmelse og uafhængighed har fået fornyet relevans som modvægt til en stadig større afhængighed af global teknologi. Vi har brug for robusthed forankret i noget, der ikke går tabt, selv hvis strømmen går – det gode, der ikke kan mistes mod vores vilje, for igen at parafrasere Augustin.

Kirken har en rolle i samfundet, som handler om mere end bare at varetage kulturarv. Kirken kan bidrage til at genopbygge den ”kultur i menneskelig målestok”, som Kingsnorth efterlyser, eller det ”Jerusalem”, der ifølge Pave Leo bygges med Gud og menneskelige relationer i centrum. Kirken kan være et fristed ved at give rum for en gudgiven virkelighed, der undflyr sig teknikkens herredømme.

En vis traditionalisme må der til. Gerne også en reaktionær en af slagsen, der stædigt holder fast i nedgroede traditioner og vaner. Omvendt er der grund til at undgå den ureflekterede dualisme, som den krasseste teknikkritik ofte forfalder til. Jacques Elluls teknikkritik udmærkede sig ved en ofte overset dialektisk teologi, hvor modsætninger ophæves ved forsoning og forligelse. Gud befrier os ikke fra civilisationen ved at føre os tilbage til et tabt paradis, men ved nådigt at transformere den menneskeskabte virkelighed.

Teknologi skal med andre ord bruges, hvor det giver mening, men uden at overtage den tænkemåde, der følger med. Igen kan det ikke være et spørgsmål om kun at bruge teknologi, når det er ”nødvendigt”, for nødvendighed er netop teknikkens metier, men opgaven må være, som Pave Leo og Kingsnorth minder os om, at spørge, hvilken ”herre” vi tjener, når vi gør brug af specifikke teknologier: Vil vi tjene teknikkens nye ”gud” eller vil vi genopbygge Jerusalem og en kultur i menneskelig målestok?