AI geletterdheid/compliancy voor gemeenten

Ongecategoriseerd
Verlanglijst Delen

Over cursus

Gemeenten worden in de AI Act meestal gezien als “deployers” (gebruikers van AI-systemen). Dat betekent dat zij verantwoordelijk zijn voor het rechtmatig en zorgvuldig inzetten van AI binnen hun dienstverlening en besluitvorming. 

Denk bijvoorbeeld aan AI voor:

  • aanvragen van uitkeringen;
  • vergunningverlening;
  • handhaving en toezicht;
  • fraudedetectie;
  • personeelsselectie;
  • burgercontactcentra;
  • documentanalyse en generatieve AI zoals Copilot of ChatGPT.

Om hier goed mee om te gaan is deze online cursus ontwikkeld.

Cursus inhoud

Risico’s van AI
Hoog-risico AI: extra verplichtingen Veel toepassingen van gemeenten vallen mogelijk onder de categorie hoog-risico AI. Dat geldt vooral wanneer AI invloed heeft op rechten van burgers, toegang tot publieke diensten of arbeidsrelaties. Bij hoog-risico AI moeten gemeenten onder andere: risico's voor burgers en grondrechten beoordelen; zorgen voor menselijke controle op AI-uitkomsten; logbestanden en documentatie bewaren; medewerkers instrueren over correct gebruik; de kwaliteit van gebruikte data bewaken; burgers informeren wanneer relevant. Voor gemeenten betekent dit dat AI niet zomaar een advies mag geven dat automatisch wordt overgenomen zonder menselijke beoordeling. Een ambtenaar moet kunnen begrijpen, controleren en corrigeren wat het systeem doet. Verboden toepassingen De AI Act verbiedt bepaalde AI-toepassingen volledig. Voor overheden zijn vooral relevant: sociale scoresystemen voor burgers; manipulatieve AI die gedrag beïnvloedt; bepaalde vormen van biometrische identificatie; emotieherkenning op de werkplek, behalve in zeer beperkte uitzonderingsgevallen.

  • Hoog-risico AI: extra verplichtingen
  • Verboden toepassingen

Wat betekent dit in het sociale domein
Voor werk binnen gemeentes heeft de AI Act drie belangrijke gevolgen: 1. AI-geletterdheid wordt verplicht De verordening introduceert een verplichting voor organisaties om te zorgen voor voldoende AI-kennis (AI literacy) bij medewerkers die AI gebruiken. Ambtenaren moeten daarom leren: wat AI wel en niet kan; welke risico's bestaan; hoe outputs gecontroleerd moeten worden; welke privacy- en ethische aspecten spelen. 2. Eigen verantwoordelijkheid blijft bestaan Een besluit van een gemeente blijft een bestuurlijk besluit van de gemeente, niet van de AI. Een ambtenaar kan zich niet verschuilen achter "de computer zei het". De menselijke verantwoordingsplicht blijft bestaan. 3. Zorgvuldiger omgaan met gegevens Bij gebruik van generatieve AI moeten ambtenaren extra alert zijn op: privacy (AVG); vertrouwelijke informatie; informatiebeveiliging; feitelijke juistheid van AI-antwoorden. Praktisch voorbeeld Stel dat een gemeente AI gebruikt om aanvragen voor bijzondere bijstand te beoordelen. Dan moet de gemeente: nagaan of het systeem hoog-risico AI is; documenteren hoe het systeem werkt; menselijke controle organiseren; burgers beschermen tegen discriminatie of onterechte afwijzingen; medewerkers opleiden in het gebruik van het systeem. Conclusie Voor Nederlandse gemeenten betekent de AI Act een verschuiving van experimenteren met AI naar aantoonbaar verantwoord gebruik van AI. Voor ambtenaren betekent dit dat AI een hulpmiddel mag zijn, maar nooit de professionele verantwoordelijkheid vervangt. Gemeenten moeten AI-gebruik registreren, risico's beheersen, medewerkers opleiden en zorgen dat burgers eerlijk, transparant en rechtmatig worden behandeld.