DEBAT: Offentlige algoritmer skal frem i lyset

Indlægget er skrevet af Louise Holck og Lisbeth Knudsen, direktører i hhv. Institut for Menneskerettigheder og Tænketanken Mandag Morgen og leder af Outreach-delen af projektet Algoritmer, Data og Demokrati (ADD). Teksten blev bragt i Politiken 12. oktober 2021.

KUNSTIG INTELLIGENS hjælper Udbetaling Danmark med at finde personer, der får udbetalt mere, end de har ret til. Jobcentre bruger algoritmer til at identificere de arbejdsløse, der er i størst risiko for at blive langtidsledige. Det er blot to eksempler på, hvordan kunstig intelligens spiller en afgørende rolle for offentlige myndigheders behandling af borgere.

Danmark er et af de førende lande inden for offentlig digitalisering, og offentlige myndigheder er allerede i fuld gang med at benytte kunstig intelligens. Formålet er typisk at effektivisere forvaltningen, men brugen af de teknologiske løsninger henligger i et mørke, hvorfra meget få oplysninger siver ud.

Det er et alvorligt problem, fordi de digitale løsninger - og det gælder især kunstig intelligens - har afgørende betydning for hver enkelt borgers rettigheder og på sigt den tillid mellem borger og stat, der er afgørende for det danske demokrati.

I et digitalt foregangsland som Danmark bør det offentliges brug af kunstig intelligens være genstand for en bred og åben debat. Men det er svært at skabe debat om en teknologi, som de færreste forstår, og som kun få kender omfanget af. Myndighederne informerer ikke nødvendigvis borgerne eller offentligheden om, hvornår og til hvad de anvender kunstig intelligens.

DIGITALISERING er afgørende for udviklingen af det danske samfund. Derfor er det nødvendigt, at både teknologiens egenskaber og dens begrænsninger og udfordringer belyses. Beslutninger om fremtidens digitale løsninger skal træffes på et oplyst grundlag, hvad enten det er politikerne, der skal forholde sig til digitaliseringen af det offentlige, en myndighed, der vil bruge teknologien, eller en sagsbehandler, der skal træffe en afgørelse. Det er også nødvendigt for, at både tilsyn og domstole, den enkelte borger og vi som samfund kan fortsætte med at føre kontrol med det offentlige.

Derfor har Institut for Menneskerettigheder kortlagt, hvordan borgernes rettigheder og retssikkerhed påvirkes, når det offentlige benytter sig af kunstig intelligens i sagsbehandlingen. Analysen er udkommet i denne uge og tager udgangspunkt i dansk lovgivning og danske myndigheders praksis. Analysen munder ud i en række anbefalinger, som skal sikre, at kunstig intelligens anvendes ud fra en rettighedsbaseret tilgang.

På samme baggrund har Institut for Menneskerettigheder og Algoritmer, Data og Demokrati-projektet (ADD-projektet) indgået et partnerskab med en række andre organisationer, som vil iværksætte en ny folkeoplysningsbevægelse, der skal klæde Danmark og danskerne på til at navigere sikkert i den digitale fremtid.

Diskrimination er en af de store risici ved offentlige myndigheders brug af kunstig intelligens. Algoritmerne kan videreføre den diskrimination, der muligvis allerede er i sagsbehandlingen, men de kan også forværre problemet. Det er ellers oplagt at tro, at algoritmerne er objektive, men sandheden er, at de let skævvrider, så for eksempel den enkeltes køn, etnicitet eller alder bliver afgørende.

DET ER vigtigt, at alle aktører kender til denne risiko allerede fra det tidspunkt, hvor teknologien kun er ideer på tegnebrættet, og frem til det tidspunkt, hvor en domstol skal vurdere, om en afgørelse er lovlig.

Kunstig intelligens bygger på meget store mængder data. Det indebærer, at der skal samkøres mange detaljerede oplysninger om rigtig mange borgere for at få algoritmerne til at fungere bedst muligt. Men hvis det enkelte menneske hverken ved, hvilke oplysninger der bruges, eller hvordan de bruges af myndigheden, kan det offentlige system hurtigt blive uigennemskueligt for borgerne. Borgerne har ret til at have indsigt i og indflydelse på deres egne sager, og myndighederne skal på deres side sikre størst mulig åbenhed i borgerens møde med det offentlige magtapparat.

I Danmark har vi en stærk beskyttelse af borgernes rettigheder og retssikkerhed, og den skal vi bevare. Derfor skal vi stille de samme høje krav, når der anvendes kunstig intelligens, som vi gør i alle andre dele af den offentlige forvaltning. Det forudsætter udvikling af både ny lovgivning og nye styringsværktøjer, og ikke mindst forudsætter det nye kompetencer og mere oplysning i hele samfundet.

Kun på den måde kan vi fremtidssikre vores retsstat og demokrati, i takt med at den offentlige sektor digitaliseres, og kunstig intelligens bliver en integreret del af vores hverdag på trygge vilkår.

"Diskrimination er en af de store risici ved offentlige myndigheders brug af kunstig intelligens"