Blog

Het nieuwe algoritmeregister van de gemeente Amsterdam, wat is een algoritme?

De gemeente Amsterdam heeft nu een algoritmeregister waar ze een overzicht geeft van alle algoritmen die de gemeente Amsterdam gebruikt voor gemeentelijke dienstverlening. Er staan op dit moment drie algoritmen in: parkeercontrole, behandeling openbare ruimte en vakantieverhuur woningfraude. 

Bij ieder algoritme wordt er eerst een begrijpelijke omschrijving gegeven over wat het systeem toevoegt met thematische tags erbij. Na de contactgegevens kom je bij de gedetailleerde informatie. Hier geeft de gemeente redelijk veel informatie. Ze benoemt als eerst de databronnen die ze gebruikt. Hierbij geeft ze nog niet aan, bij persoons data (persoonsgegevens), op welke grond de data verwerkt wordt. Als tweede is er een uitleg over hoe het model opgebouwd is met een paar technische details, maar geeft ze geen technische parameters waardoor een voorbeeldberekening kan worden gemaakt. Daarna is er een uitleg over hoe discriminatie tegen wordt gegaan en waar de ontwikkelaars op hebben gelet om discriminatie te voorkomen. Als vierde wordt er uitgelegd hoe het algoritme in de praktijk wordt gebruikt en hoe medewerkers ermee samenwerken.  Dit onderdeel is het belangrijkst om de hoeveelheid invloed van een algoritme te kunnen beoordelen en je hoeft er geen specialistische kennis voor te hebben. Ze eindigen met een analyse van de risico’s van het algoritme en hoe deze risico’s worden ondervangen. De risico’s van de eerste drie algoritmes zijn nog redelijk beperkt omdat er nog geen geautomatiseerde beslissingen worden genomen die een juridisch effect hebben op de burger. Daarvoor zullen we moeten wachten op nieuwe algoritmes.

Al met al ben ik erg onder de indruk van de aanpak van  de gemeente . Ze laten zien dat ze over veel problemen hebben nagedacht en geven ook aan hoe ze sommige beslissingen van algoritmes gaan uitleggen aan burgers. Ik heb er nog wel twee problemen mee. Ten eerste vind ik dat ze bij de databronnen waar persoons data in zit, de verwerkingsgrond erbij moeten zetten. Het tweede probleem is iets fundamenteler. Op de website zelf staat deze definitie ‘Een algoritme is een vooraf bepaalde set regels of stappen die door de computer gevolgd worden.’ Ik geloof alleen niet dat deze drie algoritmes de enige sets regels of stappen zijn die door de computers van de gemeente gevolgd worden. Deze definitie is veel te breed voor het doel en dat ondermijnt het register. Ik denk dat een deel van de belastingen van de gemeente ook geautomatiseerd worden berekend, maar ik vermoed dat we die nooit op deze website gaan vinden. De gemeente zou naar mijn mening nog een alinea toe moeten voegen over de specifieke soort algoritmes, waarbij er gebruik is gemaakt van data om de stappen of regels te leren, die ze met dit register openbaar willen maken.

Door Robin Verhoef (Lid NVAIR).

Geef een reactie

Het e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *