Google er blevet snydt – sender advarsel til alle der bruger tjenesten

Et koordineret forsøg på at manipulere Googles AI-tjeneste Gemini har ført til spredning af vildledende oplysninger om den danske farvevirksomhed Flügger.

Googles AI-værktøj Gemini, der anvendes til at generere korte informationstekster øverst i søgeresultater, er blevet brugt til at sprede falske nyheder.

Ifølge DR er det lykkedes pro-russiske aktører at manipulere tjenesten ved at målrette søgninger om en tidligere afsløring af Flüggers eksport til Rusland.

Falske nyheder misleder om sanktionsbrud

Flügger har tidligere været genstand for kritik, da DR afslørede, at 1.900 ton maling var blevet eksporteret til Rusland på trods af sanktionerne.

Men når brugere i dag søger efter information om sagen, får de ifølge DR vist et andet billede i toppen af søgeresultaterne.

Gemini genererer eksempelvis overskrifter som ”Ny undersøgelse afslører, at Flügger aldrig sendte maling til Rusland”.

DRs undersøgelse viser, at over 20 forskellige websteder er blevet brugt til at sprede den falske nyhed på internettet.

Bedraget er sket ved, at falske URL’er med misvisende nyhedstekster er blevet knyttet til legitime og troværdige hjemmesider.

Disse sider har ikke blokeret for den type manipulation, hvilket har fået Googles system til at opfatte indholdet som sandt og legitimt.

Cybersikkerhedsekspert Jan Kaastrup forklarer til DR:

– De har kunnet forgifte Googles søgninger, og dermed har Google troet på nyheden, fordi den har været på så mange forskellige troværdige sider.

Mistanke om russisk indblanding

Ifølge Kaastrup tyder alt på, at manipulationen er orkestreret fra russisk side.

Han kalder Rusland ”mestre i at sprede falske nyheder” og advarer samtidig om, at lignende metoder sandsynligvis også anvendes til andre emner i søgefeltet.

– Jeg synes, at alt peger på, at det her er den russiske regering, der står bag. Rusland er mestre i at sprede falske nyheder, og det her er bare et af de våben, som de har, og de har brugt før, siger Jan Kaastrup til DR.

Manipulationen af Gemini-tjenesten rejser spørgsmål om, hvor sårbare AI-genererede søgeresultater er over for desinformation, og hvilke sikkerhedsforanstaltninger der er behov for fremadrettet.

Google har endnu ikke kommenteret den konkrete sag offentligt.