AI gaat ons veel brengen

Sinds kort experimenteert directeur Michel van Leeuwen van het AI-team binnen JenV met een AI-tool waarmee automatisch alle parlementaire informatie rond een bepaald thema in je mailbox komt. "Je hoeft dus niet meer elke vrijdag twintig websites te doorzoeken, maar klikt een onderwerp aan en krijgt automatisch alles wat daarover op het web circuleert. Dat scheelt veel werk en ik krijg geregeld supernuttige informatie waarvan ik niet wist dat die er was."

Wat is jouw persoonlijke motivatie bij dit onderwerp?

"Sinds ik als jongetje van veertien mijn eerste computer kreeg, ben ik gefascineerd door techniek. In mijn hele loopbaan ben ik bezig geweest met de vraag hoe nieuwe technologie ons leven makkelijker kan maken, zoals mijn parlementaire informatie app. Digitalisering is een continue verandering in onze samenleving, die ons al veel heeft gebracht en ons nog heel veel gaat brengen, maar waar we ons wel op moeten voorbereiden. Beleid en regelgeving komen meestal in reactie op ontwikkelingen in de praktijk en dat kost enige tijd. Ik hoop eraan bij te dragen dat we er op tijd bij zijn."

Waarop heeft het AI-team zich in 2020 en 2021 gericht?

"Allereerst inventariseerden we de kansen en bedreigingen, de sterktes en zwaktes en de lopende initiatieven binnen JenV. Veel initiatieven uit die eerste twee jaar lopen nog steeds door. Bijvoorbeeld het overleg met andere departementen over beleid en wetgeving. Of het stimuleren van nieuwe experimenten. En tenslotte stelden we een breed gedragen AI-strategie op. Dat deden we in samenspraak met mensen uit het bedrijfsleven, de wetenschap, de uitvoering en belangenorganisaties." 

Wat hebben die organisaties nodig van JenV?

"Het grote bedrijfsleven heeft behoefte aan regulering, aan heldere spelregels. Die komen voor een belangrijk deel uit de Europese Unie, waar nieuwe wetgeving in de maak is. Maatschappelijk organisaties zeggen: AI kan discrimineren, maak goede regels en zorg dat je er verantwoord en transparant mee omgaat. Ook is er behoefte aan AI-toepassingen die discriminatie juist opspoort. Het midden- en kleinbedrijf heeft weer andere zorgen. Een kleine startup die aan een AI-tool werkt, heeft geen juridische afdeling om te zorgen dat deze aan alle voorwaarden voldoet. In de komende Europese AI-verordening staat het voorstel om labs (‘regulated sandboxes’) op te richten waar het midden- en kleinbedrijf zijn AI-toepassingen kan laten toetsen.
Bij de uitvoering is transparantie heel belangrijk. Je moet goed kunnen uitleggen waarom en hoe je AI inzet. Veel toepassingen maken het werk wat makkelijker en zijn niet erg ingrijpend. Maar er zijn ook hoogrisicotoepassingen. Denk aan een tool die persoonsgegevens verwerkt en veel impact heeft op mensen – zoals bij de Belastingdienst is gebeurd. We zijn met vijf uitvoeringsorganisaties bezig met een proef voor een algoritmeregister. Dan geef je op je website aan dat je een algoritme gebruikt, hoe je dat gebruikt en wat je hebt gedaan om eventuele negatieve effecten te kunnen oplossen."

Bepaalde organisaties zijn natuurlijk al verder dan andere?

"Ja. De kunst is iedereen te helpen om in zijn eigen tempo ermee aan de slag te gaan. Daarom leveren we ook maatwerk en één-op-één advies. Ik had net nog een collega van de IND aan de telefoon over de vraag hoe zij AI ethisch verantwoord kunnen gebruiken in hun interne processen." 

Is er op dit gebied internationale samenwerking?

"Zeker. In Brussel is vorig jaar nieuwe regelgeving gepresenteerd. Om input te geven voor de onderhandelingen daarover, bespreken we de Brusselse voorstellen wekelijks op het departement. Hoe verhouden die zich tot ons beleid en onze praktijk? In mei organiseren we in het Vredespaleis voor zo’n honderd collega’s en experts uit andere landen een internationale conferentie over verantwoorde artificiële intelligentie."

Is handhaving ook een zaak van JenV?

"Veel organisaties hebben hun eigen toezichthouders, die boetes kunnen opleggen. Zo ligt het toezicht op het gebruik van AI in de financiële wereld bij De Nederlandse Bank. Bij JenV houdt de Inspectie JenV toezicht op de inzet van algoritmen in het JenV-domein. En via de onafhankelijke Autoriteit Persoonsgegevens, die financieel onder JenV valt, is JenV indirect verantwoordelijk voor het toezicht op de privacy in de hele samenleving." 

Wat zijn de prioriteiten voor het komende jaar?

"We moeten de acties uit de AI-strategie van JenV goed uitvoeren. Dat doen we via vier lijnen. Allereerst door de bestaande potentie beter te benutten. Zo werken we samen met de politie om hun kennis en tools ook in te zetten bij de rest van JenV. En we organiseren kickstartsessies om de onderdelen van JenV te helpen experimenten op te zetten.
Daarnaast moeten we AI op een verantwoorde manier een plek geven bij JenV. Denk aan die algoritmeregisters en de gesprekken in Brussel over wetten en regels voor toepassing van AI. Maar er is ook een kennisplatform met ethici, waar we bespreken hoe je AI en data ethisch verantwoord kan inzetten.
Verder moeten we ons ook voorbereiden op mogelijke AI-incidenten. We organiseren webinars over de omgang met hoogrisicotoepassingen. Daarbij benadrukken we: probeer daar een antenne voor te ontwikkelen en ga daarover in gesprek. Zorg dat je je acties goed documenteert en er verantwoording over kunt afleggen.
En onder dat alles ligt dat we kennis over AI moeten ontwikkelen - als organisatie en bij medewerkers. Ons AI-team trekt dagelijks op met een groeiende groep van op dit moment zo’n 20 mensen, verspreid over het hele ministerie. En daarnaast verbinden we via het JenV Connectplatform rond de 200 mensen, die er in hun eigen organisatie mee bezig zijn."