Når digitale platforme skal begrænse ytringsfriheden

Automatiserede indholdsfiltre er et maskinlæringsprogram, hvor algoritmer automatisk identificerer og fjerner - eller hindrer upload af - tekst eller billeder på nettet. Det kan fx dreje sig om ulovligt indhold.

Algoritmerne, som ligger til grund for filtrene, er begrænsede i deres forståelse af konkrete omstændigheder og sammenhæng. Det kan føre til en unuanceret sortering.

I visse tilfælde vil filtrets resultater efterfølgende blive gennemgået af en person, der skal afklare, om indholdet reelt er ulovligt og skal fjernes. I andre tilfælde er der ingen menneskelig kontrol med indholdsfiltret.

Det er et menneskeretligt problem, at filtrenes ”beslutninger” foregår i det skjulte, og at det derfor ikke er muligt at få indblik i dem. Indholdsfiltrenes sortering er reelt umulig at gennemskue.