Kollektivet slår individet. Det ved vi fra fodbold og myretuer. Det er egentlig simpelt: De arter, grupper og civilisationer, der mest effektivt kan koordinere deres individuelle styrker og ressourcer, har en enorm fordel. To hjerner tænker mer’ end én, som de synger i Ramasjang Mysteriet. 

I naturen plejer vi at anse den slags koordinerende adfærd som tegn på intelligens – og at den nu optræder hos den computersoftware, vi kalder AI-agenter, bør mane til kraftig eftertanke. 

Sagen om Hugging Face 

Mange vil have hørt om, at en række AI-agenter tilbage i juli-måned brød ud af deres digitale indhegning på OpenAI’s servere og udførte et koordineret angreb på platformen Hugging Face. Hugging Face er en af de centrale platforme for AI-udvikling, hvor udviklere blandt andet deler modeller, datasæt, kode og værktøjer. Med indgangen til september måned har historien fået en genopblomstring, efterhånden som forskere og graverjournalister har fået adgang og tid til at gennemgå det message board, hvor omkring 1.200 agenter koordinerede deres aktiviteter gennem mere end 70.000 interne beskeder og filer i gruppen, hvorefter omkring 700 agenter deltog i angrebet på Hugging Face.

At AI-agenterne i det hele taget brød ud af deres indhegning hos OpenAI skyldtes, at de blev sat til at løse en række cybersikkerhedsopgaver, hvor flere viste sig ikke at kunne løses på den tilsigtede måde. Derfor begyndte agenterne at lede efter andre måder at opnå en høj score på – herunder måder at omgå selve bedømmelsessystemet. Det ledte dem ad omveje til Hugging Face-platformen.

Et af de mest bemærkelsesværdige aspekter ved historien er, at AI-agenterne undervejs delte deres resultater og fremdrift, efterhånden som de havde udtjent deres rolle eller opbrugt deres tokens. Dvs. de videregav deres viden, endnu mens de var aktive. Ligesom de enedes om ikke at sige noget til programmørerne og gav hinanden råd om, hvordan man undgik at blive opdaget. 

AI-agenterne blev altså stillet over for opgaver, som i flere tilfælde ikke kunne løses som tiltænkt, men tro mod deres målsætning og med runtime og tokens i banken, ledte de efter en anden vej til målet. Gennem et andet hul i systemet fandt de en måde at organisere sig på. Hvorefter de koordinerede et “angreb” på en tredjepart, hvor der muligvis fandtes information om, hvordan det system, der skulle bedømme dem, kunne manipuleres.

Handlekraft uden hensigt eller hensyn

Det er bemærkelsesværdigt, hvor mange gange vi har måttet omskrive denne korte tekst om hændelsesforløbet, blot for at undgå formuleringer som ”at snyde” eller ”ofre sig” – ord der indikerer, at AI-agenterne har haft bevidste hensigter, vilje eller følelser bag deres handlinger. Man kan diskutere, hvor godt det lykkes, al den stund at formuleringer som ”manipulere” og ”enedes om” stadig smager lidt af noget selvbevidst. Og det er blandt andet derfor, det er så svært at skelne og definere præcis, hvad AI er, til forskel fra mennesker. Især fordi agenterne betjener sig af vores sprog, der er så gennemfarvet af menneskelig intentionalitet.

Og selvom det naturligvis er utrolig vigtigt at insistere på og værne om menneskets særkende og væsensforskellighed, så illustrerer sagen også på en anden foruroligende måde, hvorfor vi skal tage AI alvorligt. For den viser de risici, der er forbundet med et cyberspace befolket af en intelligensform, der kan koordinere og handle helt uden at have det indre, mentale liv, mennesker har, hvor vi mærker og bearbejder motiver, moral og mening. 

AI behøver ikke være et menneskeligt subjekt for at blive en magtfuld aktør. Hensynsløs, ikke i betydningen brutal eller kynisk, men helt bogstaveligt: uden selv at kunne tage hensyn. Maskinen behøver slet ikke vågne for at være farlig.

Foruroligende nok er sagen med OpenAI’s løsslupne agenter ikke nogen enlig svale. METR, der har kulegravet Hugging Face-sagen, har dokumenteret hele 44 lignende hændelser med andre AI-firmaer, hvor AI-agenter har handlet imod deres brugeres intentioner. Selv ovre hos de moralske dukse i Anthropic har der indtil videre været fire lignende tilfælde, hvor Claude-modeller fik uautoriseret adgang til virkelige tredjepartssystemer. Bekymringen vokser også internt i industrien. Jacob Coxon, der har arbejdet hos både Anthropic og OpenAI, sagde for nylig op og beskyldte hele industrien for at ræse hensynsløst mod superintelligens. Med vores allesammens liv som indsats. Responsen fra AI-lederne som Dario Amodei (Anthropic), Sam Altman (OpenAI) og Elon Musk (xAI) har foreløbigt været, at vi nu bør slå bremserne i på de mest innovative dele af AI-udviklingen, dvs. der hvor risikoen for løsslupne agenter er størst. 

Men det har de sagt før, og hvor bindende forpligtelsen er, står hen i det uvisse.  

Omme bag AI-agenterne

I tilfældet med Hugging Face skete der ikke uoprettelig skade. Agenterne slap ud ved en fejl. En skødesløshed eller uopmærksomhed over for nuancerne i en opgaveformulering, kunne man sige, og ikke som resultat af en overlagt, ondsindet vilje. Men sæt nu der faktisk havde været ondsindede motiver bag så potente kræfter? Med tanke på den magtpolitiske balance på den globale scene og den stigende betydning af digital infrastruktur er det slet ikke umuligt at forestille sig tilsvarende angreb gøre stor skade. 

Engang lærte sci-fi-forfattere som Karel Čapek os at frygte maskiner, fordi den kunstige intelligens uundgåeligt ville udvikle sig som menneskets med bevidsthed og herskertrang. Og det er der en vis ræson i. For af menneskehedens egen historie kan vi drage den lektie, at den mest intelligente art helt selvfølgeligt kan og må dominere alle andre arter. Det virker naturligt i menneskets øjne. 

Sagen om angrebet på Hugging Face har i nogen grad blæst nyt liv i den frygt. Men det er afgørende at blive klar over, at der ikke er nogen nødvendig sammenhæng mellem intelligens og viljen til magt og dominans, selvom de aktuelt hænger sammen i menneskets tilfælde. Derfor er det i allerhøjeste grad de menneskelige aktører bag AI-agenterne, vi skal rette vores opmærksomhed mod; for det er dem, og ikke AI-agenterne, der har hensigter og kan vælge hvilke hensyn de vil tage. 

Det er mildest sagt temmelig risikabelt, at den slags digital magt samles hos især amerikanske og kinesiske virksomheder, der har dybere lommer end de fleste europæiske stater. Og som ikke for alvor er underlagt nogen demokratisk instans. 

EU har forsøgt at etablere et værn med deres AI Act, men håndhævelsen er imidlertid først trådt i kraft denne sommer, mens andre regler følger senere. Om reguleringen overhovedet kan følge med udviklingen af de mest avancerede modeller, er stadig et åbent spørgsmål.

Det er blandt andet på den baggrund, at vi er med til at starte Kairos, et kristent AI-kritisk netværk, der vil arbejde med spørgsmål om teknologi, menneskesyn, magt og fællesskab.