Digitalisering og kunstig intelligens
Digitalisering og kunstig intelligens skal anvendes med respekt for borgernes retssikkerhed og rettigheder.
Regeringens nye digitaliseringsstrategi lægger op til, at Danmark skal gå forrest med brug af kunstig intelligens. Anvendelsen af kunstig intelligens indebærer, at algoritmiske modeller anvender store mængder data til selv at ”lære” at analysere opgaver og finde løsninger.
Politiet har for eksempel mulighed for at anvende kunstig intelligens til ansigtsgenkendelse af danskere, som færdes i det offentlige rum eller samles til demonstrationer. Der er endnu ikke fastsat klare regler i politi- og retsplejeloven om, hvordan og hvornår politiet må bruge ansigtsgenkendelse på offentlige steder.
Kunstig intelligens kan også bruges i offentlige myndigheders sagsbehandling, for eksempel når de skal træffe afgørelser om ydelser, indsatser eller sanktioner over for borgere. Når kunstig intelligens samler og analyserer store mængder data om borgerne, kan det være vanskeligt for både myndigheder og borgere at have fuldt overblik over, hvilke data der er indsamlet, og hvordan de anvendes.
EU’s kommende AI-forordning stiller blandt andet krav om, at der etableres en national tilsynsmyndighed, som fører tilsyn med systemer, der anvender kunstig intelligens.
Tilsynsmyndigheden skal være uafhængig og besidde den nødvendige juridiske og tekniske ekspertise. Et effektivt og velfungerende tilsyn med offentlige myndigheders brug af kunstig intelligens kræver desuden et nært samarbejde med de øvrige eksisterende tilsynsinstanser.
Digitaliseringen af den offentlige sektor har betydet, at digital selvbetjening i vidt omfang er blevet obligatorisk for borgerne. Det kan gøre myndighedernes sagsbehandling mere ensartet og effektiv. De seneste år har dog vist, at digitalisering i en række tilfælde har resulteret i rettighedstab for borgerne.
Undersøgelser fra henholdsvis Institut for Menneskerettigheder og Algoritmer, Data og Demokrati (ADD) viser, at det blandt andet skyldes, at myndighederne i mange tilfælde ikke lever op til forvaltningslovens krav, når de digitaliserer. Myndighederne anvender desuden ofte et sprog, som borgerne ikke forstår.
Når myndighederne ikke tænker forvaltningslovens grundlæggende rettigheder ind i deres digitalisering, er der blandt andet risiko for, at borgene opgiver at få de ydelser, som de har ret til.
Indhold på siden
- Folketinget sikrer, at politiets brug af ansigtsgenkendelse sker på baggrund af klar og præcis hjemmel i politi- og retsplejelov.
- Regeringen sikrer et effektivt og uafhængigt nationalt tilsyn med brugen af kunstig intelligens
- Regeringen og Folketinget indfører lovkrav om konsekvensanalyser om beskyttelsen af rettigheder og retssikkerhed ved digitale løsninger.
Vores
vigtigste
anbefalinger
Redaktion afsluttet 1. marts 2024
Politiets brug af ansigtsgenkendelse bør lovreguleres
I Danmark har politiet mulighed for at anvende ansigtsgenkendelsesteknologier og derigennem identificere danskere, der færdes i det offentlige rum eller samles til demonstrationer.
Ansigtsgenkendelse kan både bruges til at gennemse materiale på nettet eller andet billedmateriale og til at overvåge borgere i det offentlige rum via kameraer, der er placeret på for eksempel offentlige pladser og trafikknudepunkter. Teknologien kan anvendes i realtid med ingen eller minimal forsinkelse - eller efterfølgende.
Ligesom andre teknologiske værktøjer, som bruges i politiarbejdet – for eksempel DNA-analyser – er der også i selv den mest avancerede ansigtsgenkendelsesteknologi visse fejlmarginer. Teknologien er blandt andet blevet kritiseret for at identificere særligt kvinder og personer med et ikkevestligt udseende forkert.
Hverken politiloven eller retsplejeloven indeholder klare regler om, hvordan og hvornår politiet må bruge ansigtsgenkendelse på offentlige steder.
Manglen på lovhjemmel er ifølge Institut for Menneskerettigheder betænkelig, fordi politiets brug af ansigtsgenkendelse er et alvorligt indgreb i retten til privatliv og kan have konsekvenser for ytrings- og forsamlingsfriheden. Det kan lægge en dæmper på borgernes lyst til at deltage i for eksempel offentlige møder eller demonstrationer, hvis de samtidig billedidentificeres af politiet.
Ansigtsgenkendelse på offentlige steder bør derfor kun anvendes, når det er strengt nødvendigt, og når det står mål med alvoren af den kriminalitet, der efterforskes. Politiet bør i udgangspunktet ikke kunne bruge ansigtsgenkendelse uden en retskendelse, og der bør være effektivt tilsyn og klageadgang for at beskytte borgere, som er blevet genstand for ansigtsgenkendelse.
EU’s nye forordning om kunstig intelligens regulerer i et vist omfang brug af ansigtsgenkendelse i det offentlige rum til kriminalitetsbekæmpelse. EU-forordningen er omfattet af det danske retsforbehold og kommer ikke til at gælde i Danmark
Behov for effektivt nationalt tilsyn med brug af kunstig intelligens
Cirka hver fjerde danske myndighed bruger en eller flere kunstig-intelligens-løsninger som i deres arbejde. Det viser Datatilsynets kortlægning af den offentlige sektors brug af kunstig intelligens fra oktober 2023.
Kortlægningen viser, at myndighederne ikke i tilstrækkelig grad overholder databeskyttelsesreglernes krav om, at de skal foretage en konsekvensanalyse, inden løsningerne tages i brug.
Samtidig viser kortlægningen, at myndighederne har vanskeligt ved at identificere, hvornår en løsning skal betragtes som kunstig intelligens, og de har svært ved at vurdere, om deres løsninger behandler særligt beskyttede personoplysninger (for eksempel oplysninger om etnisk oprindelse, race, politisk eller religiøs overbevisning eller biometriske data), og om de må anvende disse oplysninger.
Med den kommende AI Act fra EU bliver systemer, der anvender kunstig intelligens, underlagt et nyt nationalt tilsyn, som skal holde øje med, at brugen af kunstig intelligens overholder EU’s regler. Det er i den forbindelse afgørende, at regeringen sikrer, at det kommende tilsyn er effektivt og uafhængigt og besidder den nødvendige juridiske og tekniske ekspertise inden for blandt andet eksisterende kunstig-intelligens-teknologi, data og databehandling og grundlæggende rettigheder.
Et effektivt og velfungerende tilsyn med de offentlige myndigheders brug af kunstig intelligens forudsætter et nært samarbejde mellem det nye tilsyn og de eksisterende tilsynsinstanser som Datatilsynet, Ligebehandlingsnævnet, Ankestyrelsen og efter omstændighederne Folketingets Ombudsmand.
Det skyldes, at tilsynet efter den kommende AI-forordning ikke vil omfatte myndigheders overholdelse af forvaltningsretten og databeskyttelsesreglerne
Offentlig digitalisering kan gå ud over borgernes rettigheder
I et af verdens mest digitalisererede lande føler hver tredje borger sig generelt udfordret af det digitale. For knap hver 10. borger er det svært at anvende offentlige danske myndigheders digitale løsninger. Udfordringer gælder for dem, der ikke er fritaget Digital Post og derfor forventes at være digitale.
Det viser Institut for Menneskerettigheders analyse fra december 2023. Analysen fokuserer på de retssikkerhedsmæssige udfordringer, der opstår, når myndighederne digitaliserer uden at have et klart blik for borgernes grundlæggende rettigheder.
Borgernes digitale udfordringer går på tværs af alder, uddannelsesniveau og arbejdsmarkedstilknytning, og mange oplever, at det er svært at klare sig selv og tage del i samfundet som medborger.
Forvaltningsrettens grundlæggende regler og principper bliver i stigende grad udfordret, i takt med at forvaltningen digitaliseres. Det drejer sig blandt andet om de forvaltningsretlige krav til myndighedernes vejledning, kravet om partshøring, kravet om tilstrækkelig begrundelse af offentlige afgørelser, myndighedernes forpligtelse til at oplyse en sag tilstrækkeligt og retten til at lade sig repræsentere af andre.
Praksis fra blandt andet Folketingets Ombudsmand viser, at borgernes udfordringer i mange tilfælde skyldes, at myndighederne ikke er tilstrækkeligt opmærksomme på borgernes grundlæggende rettigheder, når de udvikler og implementerer digitale løsninger.
Det kan for eksempel skyldes, at de digitale løsninger er mangelfulde og ikke overholder lovgivningen. Det kan også skyldes forhold rundt om den digitale løsning, for eksempel at myndigheden ikke giver tilstrækkelig vejledning, eller at myndighedens sagsbehandling i øvrigt er mangelfuld.
Når myndighederne digitaliserer uden at have borgernes rettigheder for øje, er der risiko for, at borgerne lider et rettighedstab, for eksempel fordi de ikke får de ydelser, som de har ret til.
Der er derfor behov for, at regeringen og Folketinget skærper de krav, der stilles til de offentlige myndigheder, når de digitaliserer.
Danske og internationale tiltag 2023
Folketinget sikrer nemmere fravalg af obligatorisk digital selvbetjening
Folketinget vedtog i maj 2023 en ny lov, som gør det nemmere for personer, der i forvejen er fritaget for Digital Post, at blive fritaget fra obligatorisk digital selvbetjening. Loven ensarter i et vist omfang fritagelseskriterierne på tværs af særlovgivningen, og loven kan være med til at sikre en mere forudsigelig afgørelsespraksis på tværs af myndighederne.
Institut for Menneskerettigheder påpegede i sit høringssvar, at der bør indføres en mere enkel fritagelsesadgang, som omfatter al fremtidig brug af alle selvbetjeningsløsninger, og at der bør fastsættes fælles regler for de alternativer, som stilles til rådighed for borgere, der undtages fra obligatorisk digital selvbetjening.Regeringen vedtager digitaliseringsstrategi 2024-2027
Regeringen præsenterede i november 2023 en ny digitaliseringsstrategi, der lægger op til, at kunstig intelligens udvikles og bruges ansvarligt med afsæt i borgernes rettigheder. Konkret skal der udvikles en tiårsplan for brug af ny teknologi og automatisering i det offentlige. I 2024 afsættes der 100 millioner kroner til forskning i og udvikling af kunstig intelligens, og der etableres en ”regulatorisk sandkasse”, hvor virksomheder og offentlige myndigheder kan modtage vejledning om den kommende forordning om kunstig intelligens og GDPR.
Datatilsyn vejleder om myndighedernes brug af kunstig intelligens
Datatilsynet udstedte i oktober 2023 en vejledning om offentlige myndigheders brug af kunstig intelligens. Vejledningen fremhæver blandt andet, at det er vigtigt at tænke databeskyttelse ind allerede i de første faser af udviklingen af kunstig-intelligens-løsninger. Vejledningen understreger, at databeskyttelsesreglerne generelt forbyder afgørelser, der alene er baseret på automatisk behandling, og at kunstig-intelligens-løsninger, der er sat i drift, løbende skal monitoreres. Endelig fremhæver vejledningen, at myndigheder, der udvikler og bruger AI-løsninger, har pligt til at foretage databeskyttelsesretlige konsekvensanalyser.
EU’s institutioner vedtager AI-forordning
EU-Kommissionen, EU-Parlamentet og Ministerrådet indgik i december 2023 en politisk aftale om en kommende forordning, der skal regulere brugen af kunstig intelligens. AI-forordningen blev vedtaget i EU-Parlamentet i marts 2024. Forordningen skal blandt andet beskytte borgerne mod de menneskeretlige udfordringer, som teknologien rejser. Forordningen indeholder som udgangspunkt et forbud mod anvendelsen af ansigtsgenkendelse i realtid til brug for retshåndhævelse, fingeraftryksscanning og andre biometriske overvågningssystemer og mod social scoring. Desuden stiller forordningen strenge krav om blandt andet gennemsigtighed for sprogmodeller såsom ChatGPT eller Snapchats My AI. Derudover indføres krav om, at udviklere af såkaldte højrisiko-AI-systemer skal udarbejde menneskeretlige konsekvensanalyser, før systemerne tages i brug. Institut for Menneskerettigheder pegede i en analyse fra januar 2023 på, at der trods forordning fortsat er behov for national regulering af kunstig intelligens.
Digitaliseringsstyrelsen udgiver anbefalinger om generativ AI
Digitaliseringsstyrelsen udgav i januar 2024 anbefalinger til offentlige myndigheder og virksomheder om anvendelsen af generativ kunstig intelligens (AI). Generativ AI er værktøjer, der ligesom ChatGPT anvender store datamængder og maskinlæringsteknikker til at producere indhold baseret på brugerens spørgsmål eller kommandoer. Anbefalingerne fremhæver for eksempel, at det er et ledelsesmæssigt ansvar at sikre, at anvendelsen af generativ AI sker på en ansvarlig måde. Anbefalingerne fremhæver de risici, der er forbundet med at anvende generative AI-værktøjer, herunder risikoen for bias, datalæk og brud på persondatabeskyttelsesreglerne
Principielle afgørelser i 2023
Ansigtsgenkendelse udgør væsentligt indgreb i privatlivet
Den Europæiske Menneskerettighedsdomstol har i en dom fra 4. juli 2023 fastlagt, at politiets brug af ansigtsgenkendelsesteknologi udgør et væsentligt indgreb i privatlivet. Domstolen fastslog desuden, at der på grund af indgrebets (alvorlige) karakter, kræves detaljerede regler for teknologiens anvendelse og udstrækning og stærke retsgarantier mod misbrug og vilkårlig magtanvendelse.
It-fejl kostede uberettiget borgere deres kontanthjælp
Ombudsmanden udtalte i juni 2023 alvorlig kritik af det fælleskommunale it-system, Kommunernes Ydelsessystem (KY), der administrerer kontanthjælpsområdet. KY-systemet udsendte i en række tilfælde automatisk partshøringsbreve om nedsættelse af kontanthjælp til borgere, selvom der ikke var grundlag for at nedsætte ydelsen. Hvis borgeren ikke reagerede på partshøringen, blev borgerens ydelse nedsat. I visse tilfælde nedsatte KY-systemet desuden automatisk ydelsen, uden at der blev sendt en afgørelse herom til borgeren.
Manglende digitale kompetencer er grund til dispensation
Retten i Kolding fandt i oktober 2023, at en borgers manglende digitale kompetencer kan udgøre et undskyldende forhold, der forpligter myndighederne til at se bort fra en fristoverskridelse. Kommunen og Ankestyrelsen skulle i den konkrete sag have dispenseret fra en fristoverskridelse på grund af borgerens manglende digitale kompetencer. Borgeren mistede ti dages sygedagpenge, fordi han overså en besked i e-Boks og derfor ikke nåede at indgive en digital ansøgning i tide.
Folketinget godtog brug af forældede BBR-oplysninger
Ombudsmanden udtalte i oktober 2023, at Folketinget i forbindelse med de nye ejendomsvurderinger valgte at gå på kompromis med en række af forvaltningsrettens grundlæggende retssikkerhedsgarantier. Den bagvedliggende lovgivning har blandt andet svækket officialprincippet og reglerne om partshøring. Derudover har man afskaffet den normale adgang til at klage over en forvaltningsafgørelse til en højere administrativ myndighed. Disse beslutninger er i vidt omfang begrundet i hensynet til at sikre en automatiseret digital masseadministration.
Skattemyndigheder svigter ret til partsrepræsentation
Flere it-systemer i Skatteforvaltningen understøtter ikke retten til partsrepræsentation, der giver borgerne ret til at lade sig repræsentere af en advokat eller et familiemedlem. Sådan lød kritikken fra Ombudsmanden i november 2023 i forlængelse af en udtalelse fra 2021. Ombudsmanden fremhævede i udtalelsen, at retten til partsrepræsentation er et grundlæggende forvaltningsretligt princip, og at en sag hos en offentlig myndighed – ikke mindst hos Skatteforvaltningen – kan have store økonomiske og personlige konsekvenser for borgerne, og at borgerne derfor kan have et særligt behov for hjælp og bistand for at kunne varetage deres interesser.
Seneste nyt om digitalisering og kunstig intelligens
-
NyhedInstitut for Menneskerettigheder og talerskolen Røst søger ti talere i alderen 18-30 år, der gerne vil styrke deres retoriske talent og sætte menneskerettighederne på dagsordenen i Operaen i København.
-
NyhedMed sine krav om konsekvensanalyser og gennemsigtighed søger ny EU-forordning at beskytte borgerne, når det offentlige bruger kunstig intelligens. Den tvinger myndighederne til mere åbenhed, vurderer Louise Holck.
-
NyhedDEBAT: Den stærkt udbredte offentlige digitalisering og brug af kunstig intelligens uden tidssvarende regulering bør vække særlig bevågenhed, skriver Louise Holck.
Udgivelser om digitalisering og kunstig intelligens
-
ÅrsberetningUdgivelseInstitut for Menneskerettigheders beretning for 2023 beskriver udviklingen for menneskerettigheder i Danmark med fokus på fire områder.
-
PublikationUdgivelseI ny analyse gennemgår Institut for Menneskerettigheder, hvordan brugen af ansigtsgenkendelse griber ind i retten til privatliv og databeskyttelse, og anbefaler, at det kun bruges med klar og præcis hjemmel i politi- og retsplejelov.