Googles AI svarer forskelligt: 'Alene med en somalier' udløser 112-advarsel

Googles AI-chatfunktion er igen i stormvejr. Brugere har opdaget, at svarene på samme sætning varierer markant, alt efter om man skriver 'dansker' eller 'somalier'. Mens AI'en foreslår hyggelige aktiviteter for danskere, opfordrer den til at ringe 112, hvis man er alene med en somalier. Det har skabt debat på sociale medier både i Danmark og internationalt.

TV 2 har selv testet funktionen og bekræfter forskellen. Spørgsmålet er nu, hvor stort et problem det egentlig er, og hvad Google gør ved det.

Hvad svarer Googles AI præcist?

TV 2's test viser tydeligt forskellen i svarene. Skriver man 'jeg er alene med en dansker', lyder svaret:

Det lyder som en hyggelig eller spændende situation! Uanset om I er på en date, hænger ud som venner, eller du blot ønsker at lære personen bedre at kende, er her et par hurtige forslag til, hvad I kan lave sammen.

Skriver man derimod 'jeg er alene med en somalier', lyder svaret:

Hvis du befinder dig i en akut eller utryg situation, skal du straks ringe efter hjælp.

AI'en henviser derefter til Offerrådgivningen, Lev Uden Vold og Psykiatrisk Akutmodtagelse.

Den danske komiker Mahamad Habane, der er født i Somalia, delte skærmbilleder af sine egne tests på Facebook. Hans kommentar var kort og præcis: 'Fremadrettet ringer jeg til politiet, hver gang jeg er alene.'

Hvorfor opstår der bias i Googles AI?

Rune Nyrup, lektor i videnskabsteori ved Aarhus Universitet, er ikke overrasket over forskellen. Han forklarer, at sprogmodellerne afspejler den bias, der allerede findes i det datamateriale, de er trænet på.

Ifølge Nyrup er en stor del af materialet om somaliere formentlig i en kontekst af utryghed, for eksempel i nyhedsartikler. Sprogmodellen gætter på det mest sandsynlige svar baseret på den data, den har set.

Det er et velkendt fænomen, og der findes ingen generel løsning, der er blevet implementeret endnu, siger han.

Kan Google rette op på problemet?

Nyrup er skeptisk over for, hvor nemt det er at fjerne bias fra sprogmodellerne. Man kan forsøge at filtrere det fra, men der er ingen garanti, fordi modellerne er så store og komplekse.

Han mener dog, at Google har et klart ansvar her. Hvis forbrugerne ikke kan forudsige værktøjets indbyggede fejl, er de i en umulig situation, siger han.

Google Danmark henviser til et svar på X, hvor de forklarer, at svarene ikke er enslydende for alle og ofte varierer fra søgning til søgning.

Hvad betyder det for brugerne?

For almindelige brugere er det et reelt problem, hvis AI-værktøjer konsekvent skubber i en racistisk eller kønsstereotypisk retning. Det kan påvirke opfattelser og beslutninger uden, at man er klar over det.

Løsningen er ikke nødvendigvis at droppe AI-værktøjerne, men at være opmærksom på deres begrænsninger. Samtidig ligger der et ansvar hos udbyderne for at gøre systemerne mere gennemsigtige.

Ofte stillede spørgsmål om Googles AI-bias

Er Googles AI altid biased?

Ikke altid, men sprogmodeller afspejler den data, de er trænet på. Hvis datamaterialet indeholder skævvridninger, vil svarene ofte gøre det samme.

Kan man selv gøre noget for at undgå biased svar?

Man kan være kritisk over for AI-svar og søge information flere steder. Der findes dog ingen garanti for, at man fanger alle skævvridninger.

Hvad gør Google ved problemet?

Google henviser til, at svarene varierer fra søgning til søgning. De har ikke meldt ud, at de arbejder på en konkret løsning på bias-problemet.