Når algoritmer sagsbehandler – Rettigheder og retssikkerhed i offentlige myndigheders brug af profileringsmodeller
Danmark betegnes ofte som et digitalt foregangsland, og brugen af kunstig intelligens er de seneste år kommet øverst på den politiske dagsorden. I den forbindelse har det politiske fokus indtil videre været på alle de fordele, som borgerne og den offentlige sektor opnår ved brug af kunstig intelligens.
Der mangler dog et overblik over, hvordan brugen af kunstig intelligens griber ind i borgernes rettigheder, og det spørgsmål er indtil videre kun blevet sporadisk adresseret i Danmark.
Rapporten 'Når algoritmer sagsbehandler – Rettigheder og retssikkerhed i offentlige myndigheders brug af profileringsmodeller' undersøger de rettigheds- og retssikkerhedsmæssige udfordringer, som brugen af kunstig intelligens i sagsbehandlingen rejser.
Institut for Menneskerettigheder anbefaler blandt andet, at:
- Justitsministeriet med inddragelse af Datatilsynet og Digitaliseringsstyrelsen udsteder en vejledning om offentlige myndigheders brug af profileringsmodeller med fokus på de rettigheds- og retssikkerhedsmæssige udfordringer ved modellerne.
- Justitsministeriet med inddragelse af Datatilsynet, Digitaliseringsstyrelsen og Folketingets Ombudsmand sikrer et styrket samarbejde på tværs af de tilsyns-, rekurs- og kontrolinstanser, der forventes at kontrollere myndighedernes brug af profileringsmodeller.
- Digitaliseringsstyrelsen, som led i det fællesoffentlige arbejde med kommuner og regioner, opretter et offentligt register over samtlige offentlige myndigheders brug af profileringsmodeller rettet mod borgere.
Læs alle Institut for Menneskerettigheders anbefalinger i rapporten.
Institut for Menneskerettigheder har desuden udgivet fire notater, som behandler forskellige menneskeretlige udfordringer med brugen af algoritmiske profileringsmodeller i det offentlige. Du kan finde dem her:
Vi tilstræber, at vores pdf’ede publikationer m.m. er egnede til at blive læst af skærmlæser. Skulle du opleve problemer, så kontakt venligst digital redaktør, Stine Juhl Nielsen på stni@humanrights.dk
Links
- Nyhed: Der er brug for mere kontrol med offentlige myndigheders brug af kunstig…
- Notat: Klare rammer for det offentliges brug af profileringsmodeller
- Notat: Transparens i og om profileringsmodeller brugt i det offentlige
- Notat: Risiko for diskrimination i det offentliges brug af profileringsmodeller
- Notat: Krav til data i profileringsmodeller brugt i det offentlige
