Stoppen met risicoprofielen en algoritmes voor het voorspellen van fraude of criminaliteit

Het college van de Rechten van de Mens constateerde onlangs dat risicoprofilering grote risico’s op discriminatie met zich meebrengt omdat historische data mogelijk verouderde patronen.

Uit de beantwoording op schriftelijke vragen in maart 2024 blijkt dat de gemeente nog geen duidelijk beeld heeft van het gebruik van risicoprofielen en algoritmes voor het voorspellen van fraude of criminaliteit.

Daarom hebben we via een motie uitgesproken dat het onwenselijk is om algoritmische risicoprofilering in te zetten voor het voorspellen van (jeugd)criminaliteitspreventie of voor handhaving en toezicht van sociale voorzieningen. Ook hebben we het college gevraagd te onderzoeken op welke manier de gemeente op dit moment gebruik maakt van algoritmische risicoprofilering voor bovengenoemde doeleinden en wat de gevolgen zijn om hier mee te stoppen.