Digitalisering og kunstig intelligens

^{Redaktion afsluttet 1. marts 2024}

Politiets brug af ansigtsgenkendelse bør lovreguleres

I Danmark har politiet mulighed for at anvende ansigtsgenkendelsesteknologier og derigennem identificere danskere, der færdes i det offentlige rum eller samles til demonstrationer.

Ansigtsgenkendelse kan både bruges til at gennemse materiale på nettet eller andet billedmateriale og til at overvåge borgere i det offentlige rum via kameraer, der er placeret på for eksempel offentlige pladser og trafikknudepunkter. Teknologien kan anvendes i realtid med ingen eller minimal forsinkelse - eller efterfølgende.

Ligesom andre teknologiske værktøjer, som bruges i politiarbejdet – for eksempel DNA-analyser – er der også i selv den mest avancerede ansigtsgenkendelsesteknologi visse fejlmarginer. Teknologien er blandt andet blevet kritiseret for at identificere særligt kvinder og personer med et ikkevestligt udseende forkert.

Hverken politiloven eller retsplejeloven indeholder klare regler om, hvordan og hvornår politiet må bruge ansigtsgenkendelse på offentlige steder.

Manglen på lovhjemmel er ifølge Institut for Menneskerettigheder betænkelig, fordi politiets brug af ansigtsgenkendelse er et alvorligt indgreb i retten til privatliv og kan have konsekvenser for ytrings- og forsamlingsfriheden. Det kan lægge en dæmper på borgernes lyst til at deltage i for eksempel offentlige møder eller demonstrationer, hvis de samtidig billedidentificeres af politiet.

Ansigtsgenkendelse på offentlige steder bør derfor kun anvendes, når det er strengt nødvendigt, og når det står mål med alvoren af den kriminalitet, der efterforskes. Politiet bør i udgangspunktet ikke kunne bruge ansigtsgenkendelse uden en retskendelse, og der bør være effektivt tilsyn og klageadgang for at beskytte borgere, som er blevet genstand for ansigtsgenkendelse.

EU’s nye forordning om kunstig intelligens regulerer i et vist omfang brug af ansigtsgenkendelse i det offentlige rum til kriminalitetsbekæmpelse. EU-forordningen er omfattet af det danske retsforbehold og kommer ikke til at gælde i Danmark

Behov for effektivt nationalt tilsyn med brug af kunstig intelligens

Cirka hver fjerde danske myndighed bruger en eller flere kunstig-intelligens-løsninger som i deres arbejde. Det viser Datatilsynets kortlægning af den offentlige sektors brug af kunstig intelligens fra oktober 2023.

Kortlægningen viser, at myndighederne ikke i tilstrækkelig grad overholder databeskyttelsesreglernes krav om, at de skal foretage en konsekvensanalyse, inden løsningerne tages i brug.

Samtidig viser kortlægningen, at myndighederne har vanskeligt ved at identificere, hvornår en løsning skal betragtes som kunstig intelligens, og de har svært ved at vurdere, om deres løsninger behandler særligt beskyttede personoplysninger (for eksempel oplysninger om etnisk oprindelse, race, politisk eller religiøs overbevisning eller biometriske data), og om de må anvende disse oplysninger. 

Med den kommende AI Act fra EU bliver systemer, der anvender kunstig intelligens, underlagt et nyt nationalt tilsyn, som skal holde øje med, at brugen af kunstig intelligens overholder EU’s regler. Det er i den forbindelse afgørende, at regeringen sikrer, at det kommende tilsyn er effektivt og uafhængigt og besidder den nødvendige juridiske og tekniske ekspertise inden for blandt andet eksisterende kunstig-intelligens-teknologi, data og databehandling og grundlæggende rettigheder.

Et effektivt og velfungerende tilsyn med de offentlige myndigheders brug af kunstig intelligens forudsætter et nært samarbejde mellem det nye tilsyn og de eksisterende tilsynsinstanser som Datatilsynet, Ligebehandlingsnævnet, Ankestyrelsen og efter omstændighederne Folketingets Ombudsmand.

Det skyldes, at tilsynet efter den kommende AI-forordning ikke vil omfatte myndigheders overholdelse af forvaltningsretten og databeskyttelsesreglerne

Offentlig digitalisering kan gå ud over borgernes rettigheder

I et af verdens mest digitalisererede lande føler hver tredje borger sig generelt udfordret af det digitale. For knap hver 10. borger er det svært at anvende offentlige danske myndigheders digitale løsninger. Udfordringer gælder for dem, der ikke er fritaget Digital Post og derfor forventes at være digitale.

Det viser Institut for Menneskerettigheders analyse fra december 2023. Analysen fokuserer på de retssikkerhedsmæssige udfordringer, der opstår, når myndighederne digitaliserer uden at have et klart blik for borgernes grundlæggende rettigheder. 

Borgernes digitale udfordringer går på tværs af alder, uddannelsesniveau og arbejdsmarkedstilknytning, og mange oplever, at det er svært at klare sig selv og tage del i samfundet som medborger. 

Forvaltningsrettens grundlæggende regler og principper bliver i stigende grad udfordret, i takt med at forvaltningen digitaliseres. Det drejer sig blandt andet om de forvaltningsretlige krav til myndighedernes vejledning, kravet om partshøring, kravet om tilstrækkelig begrundelse af offentlige afgørelser, myndighedernes forpligtelse til at oplyse en sag tilstrækkeligt og retten til at lade sig repræsentere af andre.

Praksis fra blandt andet Folketingets Ombudsmand viser, at borgernes udfordringer i mange tilfælde skyldes, at myndighederne ikke er tilstrækkeligt opmærksomme på borgernes grundlæggende rettigheder, når de udvikler og implementerer digitale løsninger.

Det kan for eksempel skyldes, at de digitale løsninger er mangelfulde og ikke overholder lovgivningen. Det kan også skyldes forhold rundt om den digitale løsning, for eksempel at myndigheden ikke giver tilstrækkelig vejledning, eller at myndighedens sagsbehandling i øvrigt er mangelfuld.

Når myndighederne digitaliserer uden at have borgernes rettigheder for øje, er der risiko for, at borgerne lider et rettighedstab, for eksempel fordi de ikke får de ydelser, som de har ret til.

Der er derfor behov for, at regeringen og Folketinget skærper de krav, der stilles til de offentlige myndigheder, når de digitaliserer.