Algoritmen zijn regels die een computer volgt bij het maken van berekeningen om een probleem op te lossen of een vraag te beantwoorden. Amsterdam gebruikt veel algoritmen. Bijvoorbeeld om nummerborden te scannen voor parkeercontroles of om de WOZ-waarde van woningen te berekenen. Het gebruik van algoritmen ligt gevoelig. Algoritmen kunnen grote invloed hebben op burgers en bedrijven. Er is bijvoorbeeld een risico op de inbreuk van privacy van burgers. En als er vooroordelen in een algoritme zitten, kan het algoritme discrimineren.
Met een team van de Rekenkamer Metropool Amsterdam onderzocht ik: in hoeverre is het Amsterdamse beheerskader voor algoritmen toereikend voor een verantwoorde toepassing van algoritmen en welke lessen kunnen getrokken worden over het toepassen van algoritmen in de Amsterdamse praktijk?
Wat zijn de belangrijkste bevindingen uit het onderzoek?
Amsterdam wil grip krijgen op algoritmen en algoritmen eerlijker en transparanter maken voor burgers. Om dit te realiseren zijn ambtenaren begin 2022 begonnen met het maken van een beheerskader – een soort handleiding – voor algoritmen. Daarmee liep Amsterdam voor op andere gemeenten. We concluderen dat er in het beheerskader en de praktijk aandacht is voor veel risico’s die het verantwoord toepassen van algoritmen in de weg kunnen zitten. Maar we zien ook dat verbeteringen mogelijk en nodig zijn om meer grip te krijgen op algoritmen en om algoritmen eerlijker en transparanter te maken.
Vandaag publiceerden wij het onderzoek.
Bram Faber 