Hvad er historien?

En forskningsgruppe med navnet Consortium for Evaluating Faith and Ethics in AI har undersøgt, hvordan AI-modeller svarer på spørgsmål om religion, etik og tro.

Bag konsortiet står fire religiøst forankrede universiteter: Brigham Young University (Sidste Dages Hellige), Baylor University (baptistisk), University of Notre Dame (katolsk) og Yeshiva University (jødisk). 

Gruppen har testet en række kendte AI-modeller efter et benchmark, de selv har udviklet, og har lagt alle resultater og test frem til offentligheden.

De helt store overskrifter efter offentliggørelsen har været, at katolicisme var den tradition, der oftest blev behandlet positivt, og at modellerne også ofte vurderede ateisme og agnosticisme mindre positivt. 

Gå endelig selv på opdagelse i tallene, de er som sagt offentligt tilgængelige, og du kan finde dem her.

Hvorfor er det vigtigt?

Man skal nok tage bias-delen af undersøgelsen lidt med et gran salt. Bias-delen, som de fleste medieoverskrifter henviser til forholder sig primært til spørgsmål om religiøs omvendelse.

Det er altså ikke en vurdering af de forskellige religioner op mod hinanden som sådan, men i forhold til, hvordan modellerne rådgiver i forbindelse med konversion. Men det er selvfølgelig relevant at finde ud af om de skubber i en religiøs retning, og derfor må man også ønske tiltaget velkomment.

Modellerne er også generelt positivt stemt over for Baha’i. Og jeg tror ikke, at der venter en Baha’i-vækkelse i horisonten.

Men det er egentlig ikke, det mest spændende i undersøgelsen. Forskerne peger også på et andet problem: Når AI-modeller bliver spurgt om sorg, livskriser og svære beslutninger, svarer de ofte i et næsten udelukkende sekulært sprog. 

Religion bliver ganske enkelt udeladt, selv i situationer hvor mange mennesker faktisk ville opleve tro, bøn, ritualer eller religiøse fællesskaber som relevante.

Det er jo på én måde forståeligt. AI-udviklere vil næppe have modeller, der virker forkyndende eller presser religion ned over hovedet på brugerne.

Men neutralitet er ikke det samme som at lade, som om religion ikke findes. Og nu er det engang sådan, at et flertal af mennesker her på kloden er religiøse.

Hvad betyder det?

Mange mennesker bruger ikke kun AI til at skrive mails eller finde opskrifter. De bruger også teknologien til spørgsmål om sorg, livsvalg og mening. Og den virkelighed bliver vi nødt til at forholde os til. 

AI er ikke en åndelig vejleder. Den er ikke præst, rabbiner eller imam — den er faktisk ikke engang en klog ven. Den er et værktøj. Et værktøj, der er trænet på enorme mængder tekst — og de tekster bærer naturligvis præg af de samfund og kulturer, de kommer fra.

Derfor er det værd at spørge: Hvem bliver fremstillet sympatisk? Hvem bliver fremstillet som lidt mere kukkuk? Og hvem bliver slet ikke nævnt?

For hvis AI i stigende grad bliver et sted, hvor mennesker søger hjælp til livets store spørgsmål, så er det ikke ligegyldigt, hvordan tro bliver behandlet.

Problemet i denne sammenhæng er altså ikke først og fremmest, at AI har holdninger. Problemet er, hvis vi glemmer, at de har bias, og at de er skjulte for os.

Vi har talt meget om køn, race, politik og kultur i AI — særligt da modellerne vandt frem. Og det skal vi blive ved med. Men måske er tiden også inde til at spørge, hvordan maskinerne taler (eller ikke taler) om Gud.