Beperkte controle AI-systemen door geringe kennis raadsleden

Binnen de publieke sector maken gemeenten het meest gebruik van AI-systemen. Toch geeft driekwart van de raadsleden aan dat de raad onvoldoende in staat is om het gebruik van AI en algoritmes in de gemeente te controleren.

Dit blijkt uit de Rapportage AI- & Algoritmerisico’s Nederland (RAN) van Autoriteit Persoonsgegevens (AP) die halfjaarlijks de risico’s rond AI-systemen analyseert en adviseert over vervolgstappen. Voor het onderzoek heeft AP afgelopen voorjaar met medewerking van de Nederlandse Vereniging voor Raadsleden een enquête gehouden onder raadsleden.

Overzicht van AI systemen

Iets meer dan twintig procent van de gemeenten heeft een overzicht van AI en algoritmen die in de gemeente gebruikt worden. Een zelfde percentage deelt dit ook actief of op verzoek met andere partijen, zoals de gemeenteraad. In ongeveer 10 procent van de gevallen hebben ze vanuit de gemeenteraad of rekenkamer, resultaten van onderzoek naar of adviezen over AI-systemen ontvangen. Volgens AP moeten gemeentelijke organisaties overwegen om informatie over AI-systemen mee te nemen in reguliere informatievoorziening. Dus dat betrokken algoritmes worden benoemd in stukken naar de gemeenteraad.

AI op raadsagenda

Driekwart van de raadsleden die de enquête van AP hebben ingevuld, geven aan dat algoritmes en AI in hun gemeenteraad niet aan de orde komt. Deze raadsleden vinden ook dat de raad onvoldoende in staat is om dit gebruik van AI te controleren. De controle ontbreekt vooral door gebrek aan prioritering, beperkte kennis over AI en beperkte transparantie.

Kennis van AI-technologie

Kennis van kunstmatige intelligentie is een uitdaging voor raadsleden, waardoor het moeilijk te bedenken is welke vragen ze moeten stellen voor het controleren van het college. Door de beperkte tijd en budgetten is er voor raadsleden ook maar beperkte ruimte tot specialisatie onder raadsleden over dit thema. Autoriteit Persoonsgegevens ziet een oplossing in een landelijk AI-expertisecentrum die lokale actoren kan ondersteunen.

AI chatbox voor raadsleden

In gemeente Montferland wordt kunstmatige intelligentie door de griffie gebruikt bij het beantwoorden van technische vragen over de voorjaarsnota en begroting. Door deze pilot kunnen raadsleden in gesprek gaan met een chatbot die toegang heeft tot de voorjaarsnota en achterliggende documenten. De chatbot beantwoord vragen die raadsleden hebben. Doordat het mogelijk is om direct vervolgvragen te stellen, wordt veel tijd bespaart. “Vroeger maakten we een tabel met vragen en antwoorden, wat vaak leidde tot meerdere vragenrondes. De AI chatbot beantwoordt deze vragen direct, dat bespaart veel tijd en frustratie bij de raadsleden.”, aldus Elma van Lier, informatiespecialist van de gemeente Montferland.

Meer informatie

Voor het volledige rapport van Autoriteit Persoonsgegevens, klik hier.

Voor het artikel ‘Raad kan grenzen stellen aan gebruik van kunstmatige intelligentie', klik hier.

Voor het volledige artikel over AI in Montferland, klik hier.