EU’s regler for kunstig intelligens styrker borgernes rettigheder

Det skal være velovervejet og gennemsigtigt, når det offentlige bruger kunstig intelligens til at træffe afgørelser om forhold, der berører borgere. Det er netop blevet besluttet i EU-rådet, der har stemt ja til forordningen om kunstig intelligens. 

De seneste år har kunstig intelligens vundet indpas i Europa, og EU har arbejdet målrettet på en forordning, der skal regulere brugen, så den ikke går på kompromis med rettigheder.

Særligt er der i forordningen fokus på såkaldte høj-risiko-systemer, altså systemer, hvor der anvendes kunstig intelligens, der kan ramme borgernes rettigheder. Dertil regner EU offentlige myndigheders brug af kunstig intelligens til sagsbehandling og afgørelser. 

”Forordningen sætter to streger under, at myndigheder skal opregne, hvilke konsekvenser sagsbehandling med kunstig intelligens kan have for borgerne. Det flugter med gældende danske regler, som nu får endnu et skub fra EU’s side,” siger Louise Holck, direktør for Institut for Menneskerettigheder. 

Siden 2021 har Institut for Menneskerettigheder rettet blikket mod det offentliges stigende brug af kunstig intelligens og har blandt andet slået ned på, at myndighederne skal leve op til gældende krav om konsekvensanalyser. I Danmark har ombudsmanden flere gange kritiseret, at myndighederne har lanceret digitale løsninger uden i tilstrækkelig grad at overveje konsekvenserne for berørte borgere.

Ifølge Institut for Menneskerettigheder tvinger forordningen myndigheder til større åbenhed om deres brug af kunstig intelligens, så borgere og offentligheden kan få indblik i, om kunstig intelligens har været involveret i beslutninger og i så fald hvordan. Myndighederne skal nemlig kunne dokumentere, hvordan deres AI-løsninger virker, og forklare, hvordan deres modeller er blevet trænet.

"De nye regler tager livtag med en blåøjet brug af kunstig intelligens og stiller som krav, at det skal være muligt at se med i maskinrummet og eftergå de afgørelser, som myndighederne træffer med hjælp fra kunstig intelligens. Det er borgernes garanti for, at det offentliges brug af den nye teknologi respekterer deres rettigheder,” siger Louise Holck.

Forordningen stiller krav om, at afgørelser, der er truffet ved hjælp af kunstig intelligens, skal ledsages af en forklaring om, hvilken rolle kunstig intelligens har spillet i beslutningsprocessen. Borgere skal også ifølge forordningen kunne klage over beslutninger, som er truffet ved hjælp af kunstig intelligens, mens myndighederne bliver forpligtet til at føre tilsyn med brugen.

”Forordningen rummer nogle afgørende byggesten til at beskytte EU’s borgere. De udfordringer, vi står over for med kunstig intelligens, er dog langtfra løst med forordningen. Der ligger et stort arbejde foran både myndigheder og beslutningstagere, hvis reglerne skal beskytte rettigheder og retssikkerhed i praksis,” siger Louise Holck.

Et effektivt tilsyn med offentlige myndigheders brug af kunstig intelligens og en velfungerende klageadgang er ifølge Institut for Menneskerettigheder vigtige tiltag for at modgå, at anvendelse af kunstig intelligens svækker borgernes rettigheder og retssikkerhed.

EU-forordningen om kunstig intelligens bliver indfaset over de kommende år.