Raad kan grenzen stellen aan gebruik kunstmatige intelligentie

Raad kan grenzen stellen aan gebruik kunstmatige intelligentie

De opkomst van kunstmatige intelligentie (AI) biedt kansen voor raadsleden om te gebruiken in hun raadswerk. Maar AI betekent ook een uitdaging om grenzen te stellen in wat wenselijk en mogelijk is. Wanneer de ambtelijke organisatie met algoritmen werkt, is het aan de gemeenteraad om duidelijk te maken wat de kaders zijn en wat wel en niet kan.

Abdullah Uysal, raadslid in Dordrecht en vicevoorzitter van de Nederlandse Vereniging voor Raadsleden, betoogt dit in een artikel over AI en chat-GPT op de website Gemeente.nu. Hij wijst daarbij naar Amsterdam. Daar wordt AI gebruikt bij het onderzoeken voor aanvragen van een bijstandsuitkering. "Het beoordelen van zo’n aanvraag kost ambtenaren ontzettend veel tijd en energie en dat wordt hiermee verkort.”, aldus Uysal. Voor de controlerende rol van de raadsleden is het dus relevant om over kennis van het middel te beschikken.

Handelingskader

Er zitten risico’s aan het gebruikt van AI binnen de gemeente. Er moet voorkomen worden dat het gebruik van algoritmen schadelijke consequenties heeft. Daarom is er een handelingskader nodig voor het gebruik van algoritme in gemeentelijke systemen, waarmee risico’s getoetst kunnen worden. Hierin is een belangrijke rol weggelegd voor de gemeenteraad. Uysal: "Volgens mij is dat juist de taak voor de raad met haar sturende rol, en niet voor de ambtelijke organisatie."

Efficiënt raadswerk

Raadsleden zijn vaak nog niet bekend met wat zij en wat de gemeente kan met AI. Het gebruik van AI in raadswerk heeft potentie volgens Uysal: “In gemeenteland moeten we hier iets mee. AI kan het raadswerk efficiënter maken, denk aan het samenvatten van stukken. Maar raadsleden moeten ook alert zijn op de risico’s.” Deze risico’s gaan bijvoorbeeld over privacy-schending en misinformatie.

Debat over AI

Het is belangrijk dat raadsleden met elkaar de discussie aangaan over dit onderwerp. In Alphen aan de Rijn is vorig jaar een motie ingediend om het college te laten onderzoeken wat de mogelijkheden zijn rondom AI, inclusief ethische en juridische randvoorwaarden. Ook in Utrecht is een motie aangenomen die het college aandringt tot richtlijnen voor het gebruik van AI-tools.

Nederlandse Vereniging voor Raadsleden

De Nederlandse Vereniging voor Raadsleden houdt zich bezig met workshops en informatievoorziening rondom AI en raadswerk en is van plan dat in de toekomst uit te breiden.

Meer informatie?

Voor het gepubliceerde artikel op Gemeente.nu, klik hier

Voor een onderzoek naar het gebruik van AI/ChatGPT door raadsleden, klik hier.

Bram Klievink, hoogleraar bestuurskunde, hield tijdens de Dag voor de Raad in 2023 voor dat kunstmatige intelligentie tal van mogelijkheden biedt, maar geen vervanging is voor menselijk beoordelingsvermogen.