Mere fokus på menneskeretten i den kommende AI-forordning

I EU forhandles der for tiden om en forordning, der skal regulere brugen af kunstig intelligens (den såkaldte AI-forordning). Forordningen er det første europæiske regelsæt for kunstig intelligens og skal give borgere en beskyttelse mod menneskeretlige udfordringer, som teknologien rejser. Der er imidlertid behov for en øget beskyttelse af rettighederne i det nuværende udkast. Samtidig er der også behov for national regulering af den kunstige intelligens.

Instituttet anbefaler, at:

• Europa-Parlamentet og Rådet vedtager AI-forordningen med en bestemmelse om, at borgeren skal sikres en lettilgængelig og effektiv klageadgang.
• Europa-Parlamentet og Rådet indsætter en bestemmelse om, at der løbende skal kunne tilføjes nye teknologier til listen over forbudte teknologier, der udgør en ”uacceptabel risiko”.
• Regeringen etablerer et netværk, der sikrer videns- og erfaringsudveksling mellem nationale tilsyns- og klage¬instanser, der behandler menneskeretlige spørgsmål relateret til kunstig intelligens.
• Digitaliserings- og Ligestillingsministeriet i samarbejde med Justitsministeriet udarbejder en vejledning om offentlige myndigheders brug af kunstig intelligens til at træffe eller støtte afgørelser.
• Regeringen fastsætter klare retlige rammer der sikrer, at politiets brug af ansigtsgenkendelse overholder menneskeretlige krav.