Rekenkamer Amsterdam: Informeer gemeenteraden op vaste momenten over algoritmen

Moeilijke beslissingen over de eerlijkheid van algoritmen, moeten niet door het college worden genomen, maar door de gemeenteraad. Hiervoor is het van belang dat de gemeenteraad op vaste momenten geïnformeerd wordt over algoritmen. Op die manier krijgt de raad meer grip op het gebruik van algoritmen in de gemeente.

Dat zijn aanbevelingen uit het rapport ‘Hoe Amsterdam algoritmen beter kan toepassen’ van de Amsterdamse rekenkamer. De aanbevelingen in het rapport moeten ervoor zorgen dat algoritmen eerlijker en transparanter worden. In 2021 deed de rekenkamer van Rotterdam al onderzoek naar algoritmen in de gemeente, en concludeerde dat er te weinig overzicht is van toegepaste algoritmen in de organisatie.

Raadsleden zien kansen

Aanleiding voor het onderzoek in Amsterdam waren zorgen van de gemeenteraad over het risico op inbreuk van privacy van burgers of vooroordelen in het algoritme die kunnen discrimineren. Naast de risico’s van algoritmen, zien de Amsterdamse raadsleden ook kansen in het gebruiken van algoritmen. Het kan namelijk processen efficiënter maken of patronen herkennen die mensen niet zouden waarnemen.

Beheerskader

In 2022 hebben ambtenaren in de gemeente een beheerskader – soort handleiding – gemaakt voor algoritmen. Uit het rekenkamer rapport blijkt dat in dit beheerskader nog te weinig aandacht is voor: de eerlijkheid van algoritmen, de privacybescherming van burgers & de openheid over het ontwikkelen en toepassen van algoritmen.

Eerlijkheid van algoritmen

De gemeente wil voorkomen dat algoritmen onderscheid maken tussen burgers zonder goede reden. Toch worden er nog te weinig maatregelen genomen om vooroordelen in algoritmen tegen te gaan. Bovendien moeten moeilijke beslissingen over de eerlijkheid van algoritmen, niet door het college worden genomen, maar door de gemeenteraad. 

Privacy beschermen

De gemeente slaagt nog onvoldoende in het beschermen van de privacy van burgers bij het gebruiken van algoritmen. Burgers zijn niet genoeg geïnformeerd over wat gemeenten met hun gegevens doen. En verplichte wettelijke controles om privacy te beschermen zijn niet voldoende uitgevoerd.

Openheid en transparantie

Het is van belang dat de gemeente transparant is over het gebruik van algoritmen, en heeft daarom een website met een algoritmeregister. Deze is echter nog niet volledig, want niet alle gebruikte algoritmen staan hier op. Dat komt doordat de gemeente zelf ook niet volledig op de hoogte is van welke algoritmen ze gebruikt. Gevolg is dat raadsleden en burgers onvoldoende geïnformeerd worden.

Informeer raad op vaste momenten

De gemeenteraad moet op vaste momenten geïnformeerd worden over algoritmen, is een van de adviezen uit het rapport van de Amsterdamse rekenkamer. Een ander advies is het actief informeren van burgers over algoritmen bij besluiten die hen aangaan. Ook geven de auteurs tips voor omgaan met vooroordelen in algoritmen en het verbeteren van privacybescherming.

Meer informatie

Voor het volledige rapport van rekenkamer Amsterdam-Zaanstad, klik hier.

Dit rapport van de Amsterdamse rekenkamer was dit jaar genomineerd voor de Goudvink, klik hier voor meer informatie.