EU åbner for anonym AI-whistleblowerordning målrettet techvirksomhederne

Et nyt digitalt værktøj fra EU-Kommissionen giver ansatte og borgere mulighed for anonymt at rapportere brud på AI-reglerne.

Værktøjet er skabt som svar på stigende bekymring for skjulte overtrædelser i techbranchen.

Det nye whistleblower-værktøj er en del af EU’s indsats for at styrke håndhævelsen af AI-forordningen.

Ifølge EU Reporter er værktøjet målrettet ansatte i teknologivirksomheder, herunder udviklere og konsulenter, som har adgang til viden om ulovlige datapraksisser, utilstrækkelig testning og manipulation af AI-modeller.

Det nye system er designet med særligt fokus på sager, der vedrører højrisko-AI, som anvendes i eksempelvis sundhedsvæsenet, uddannelsessektoren og rekruttering.

EU Reporter skriver, at baggrunden er øget global opmærksomhed om utilsigtede konsekvenser af algoritmiske beslutninger.

Indberetningerne skal give EU bedre adgang til information, der ellers ikke ville komme frem.

– EU ønsker nu et bedre indblik i, hvad der foregår bag lukkede døre, lyder det.

Sikkerhed og anonymitet skal øge tilliden

Et af værktøjets vigtigste elementer er garanteret anonymitet.

Ifølge EU Reporter er det bygget med avancerede sikkerhedsprotokoller, og Kommissionen har understreget, at identiteter ikke vil blive udleveret.

Det skal give whistleblowere en tryghed, de hidtil har manglet.

Mange potentielle indberettere har frygtet repressalier, herunder fyring.

Værktøjet bliver af eksperter set som det manglende led i “AI Act”, der tidligere har mødt kritik for manglende håndhævelse.

Ifølge EU Reporter har flere eksperter påpeget behovet for et sådant redskab, som kan øge den praktiske gennemslagskraft af reglerne.

Store konsekvenser for virksomheder

Hvis indberetninger afslører alvorlige overtrædelser, kan virksomheder risikere betydelige bøder.

Særligt virksomheder med datadrevne AI-systemer kan blive ramt.

Det har fået flere aktører i branchen til at stramme deres interne processer.

EU forventer et stort antal rapporteringer i de kommende måneder.

Ifølge EU Reporter har mange ansatte længe ventet på en sikker måde at gøre opmærksom på kritisable forhold.

EU sender dermed et signal til resten af verden om, at ansvarlig AI ikke kun handler om regulering, men også om reel håndhævelse.