Etnisch profileren

Risicotaxatie-instrumenten worden de laatste tijd wel vaker in verband gebracht met etnisch profileren. Een recent voorbeeld is het Systeem Risico Indicatie (SyRI), dat de overheid gebruikte om fraude te bestrijden op onder meer het terrein van uitkeringen, toeslagen en belastingen. De rechter zette er een streep door. Een nog recenter voorbeeld betreft de Belastingdienst, die belastingplichtigen voor extra controle zou hebben geselecteerd mede op basis van het al of niet hebben van een dubbele nationaliteit. Met deze voorbeelden in het achterhoofd evalueerde Gijs van Dijck het risicotaxatie-instrument OxRec, dat de kans op recidive tracht te voorspellen en sinds enige tijd in de Nederlandse rechtspraktijk wordt gebruikt. Hij keek daarbij naar het onderzoek waarop het algoritme is gebaseerd. Zijn conclusies liegen er niet om.

Risico’s en onzekerheden

Ten eerste acht Van Dijck de kwaliteit van het algoritme vanuit praktisch oogpunt twijfelachtig. “Toepassing is alleen mogelijk indien men grote foutmarges accepteert”, zegt de Maastrichtse jurist. Bovendien creëert dan wel versterkt het gebruik van OxRec de mogelijkheid van ongelijke behandeling op basis van ras, sociale klasse of andere sociale ongelijkheden. Van Dijck: “We weten niet of het voorspellingsmodel etnisch profileert, maar ook niet dat het niet etnisch profileert. Hierdoor bestaat er een kans dat uitspraken worden gewezen die mede worden beïnvloed door een instrument dat personen van een bepaalde afkomst of met een bepaald etnisch profiel (nog verder) op achterstand zet in het strafproces.” Gezien bovengenoemde onzekerheden en risico’s roept Gijs van Dijck op dat het beter is om het instrument OxRec voorlopig niet (meer) te gebruiken in de Nederlandse rechtspraktijk.