Dit interview is onderdeel van de reeks dialoogsessies die de Aanpak Begeleidingsethiek (ABE) heeft georganiseerd, in samenwerking met ministerie van Binnenlandse Zaken en Koninkrijksrelaties (BZK) over Agentic AI.
Het ministerie van Binnenlandse Zaken en Koninkrijksrelaties (BZK) heeft een belangrijke rol als het gaat om de ontwikkelingen van nieuwe technologieën en hun impact op publieke waarden. Vanuit dat oogpunt heeft het ministerie de samenwerking opgezocht met de Aanpak Begeleidingsethiek. We spraken met Djoe Kuils, senior beleidsmedewerker Digitale Samenleving bij BZK, over het doel van waardengedreven dialogen: ‘We verspreiden de inzichten uit de dialogen binnen het departement om aan te geven: dit zijn ethische vraagstukken die spelen, dit zijn problemen waar we over na moeten denken en waar we eventueel beleid op moeten maken.’
Djoe Kuils werkt sinds maart bij het ministerie van Binnenlandse Zaken en Koninkrijksrelaties, en houdt zich bezig met meerdere dossiers, waarvan het bestrijden van online discriminatie er één is. Zijn andere hoofddossier, focus op publieke waarden en nieuwe technologieën, raakt aan de kern van hoe we als samenleving omgaan met technologische ontwikkelingen. ‘We kijken verder dan alleen AI en Agentic AI. Ook ontwikkelingen als quantum-, neuro- en immersieve technologieën volgen we op de voet. Daarbij beoordelen we steeds wat deze ontwikkelingen betekenen voor publieke waarden en grondrechten.’ De Aanpak Begeleidingsethiek is één van de methoden die BZK daarvoor gebruikt.
Djoe houdt zich bezig met het identificeren van relevante technologische ontwikkelingen en het faciliteren van gesprekken daarover. ‘We denken na over welke technologieën of ontwikkelingen we een gesprek moeten voeren. Dan kijken we hoe ECP ons hierbij kan ondersteunen, en dat is vaak met het faciliteren van sessies begeleidingsethiek.’ Deze sessies zorgen voor belangrijke inzichten. Maar wat gebeurt daar vervolgens mee?
‘We verspreiden de inzichten binnen het departement om aan te geven: dit zijn ethische vraagstukken die spelen, dit zijn problemen waar we over na moeten denken en waar we eventueel beleid op moeten maken,’ licht Djoe toe. In de ideale wereld worden de uitkomsten vertaald in concreet beleid of concrete handelingen. Maar vaker gaat het om het meenemen van het ethisch perspectief en het perspectief van gebruikers bij het ontwikkelen van nieuwe beleidsstukken.
De focus ligt nadrukkelijk op de samenleving, niet enkel op de overheid. ‘We kijken naar wat de technologie voor impact heeft op de samenleving en hoe we ervoor zorgen dat die perspectieven worden meegenomen in de manier waarop wij hier beleid maken.’ BZK heeft daarbij een coördinerende rol en agendeert vooral bij andere departementen. Waar ministeries zich bezighouden met het benutten van kansen van nieuwe technologieën, vraagt BZK door: denk je ook aan hoe mensen met elkaar omgaan op de werkvloer, aan de sociale interactie, aan privacy? ‘We halen de buitenwereld naar binnen,’ vat Djoe samen.
Djoe woonde zelf een sessie bij over Agentic AI in de context van inkoop, met een voorbeeldcase van CGI Nederland. Hij waardeerde hoe verhelderend het was om in gesprek te gaan met partijen die andere belangen hebben en daardoor anders naar ethische vraagstukken kijken. ‘Ik zit veel achter mijn computer, maar juist als je naar buiten gaat en daadwerkelijk ervaringen hoort van mensen die met die technologie moeten werken, dan verscherpt dat de manier waarop je beleid kunt maken. Dat is geen nieuw inzicht, maar wel goed om te blijven ervaren.”
Het verraste hem hoe een ethisch gesprek toegankelijk werd gemaakt voor allerlei mensen uit verschillende lagen van de samenleving. ‘Zo’n gesprek maakt inzichtelijk hoe verschillende mensen tegen dezelfde vraagstukken aankijken. De ene persoon kiest toch iets anders als de belangrijkste waarde dan een ander, wat ook al iets zegt over de objectiviteit van het wegen van die waarden. Zelf leg ik de focus bijvoorbeeld op menselijk contact en hoe je met elkaar samenleeft en samenwerkt. Terwijl andere mensen hele andere zaken boeiender vonden.’ Voor hem was dat een bevestiging: het is goed dat je met een brede groep mensen naar zulke vraagstukken kijkt, want niemand kan een vraagstuk objectief beoordelen.
Hoe kijkt Djoe tegen Agentic AI aan? ‘Je moet kijken naar de kansen die de technologie met zich meebrengt. Als Agentic AI de volgende stap is en je ziet dat het in de commerciële wereld al een opmars maakt, dan zal het vroeg of laat bij de overheid gaan spelen. Het kan efficiëntie opleveren en kosten drukken. Wel moet je je als overheid blijven afvragen: welke impact gaat het hebben op de samenleving?’ Die vragen zijn cruciaal: hoe gaat het met het werkgeluk van mensen? Hebben ze er vertrouwen in? Verandert de inhoud van werk? Hoe gaat het met menselijke interactie? Is het duurzaam? Houden mensen autonomie in hun werk? ‘Het heeft geen zin om deze ontwikkelingen proberen tegen te houden, maar je doet de samenleving tekort als je niet heel scherp de publieke waarden afweegt.’
Daarvoor heeft Nederland gelukkig een mooi instrument, benadrukt Djoe: de Grondwet. ‘Dat is natuurlijk de basis waarop BZK opereert. Daar zitten gewoon grondrechten in die je moet beschermen: gelijkheid, privacy, en sociale grondrechten zoals het recht om te kunnen werken.’ Hij is op zich positief over de mogelijkheden van Agentic AI: het kan sommige dingen heel leuk maken, maar het gaat wel effect hebben op hoe we samenleven. ‘Het is ook wel spannend. Daarom is het goed om het gesprek te voeren met elkaar en met mensen die ermee te maken krijgen. Dat vind ik echt de waarde van dit programma.’
Wat Djoe bijzonder waardevol vindt aan het voeren van waardegedreven dialogen middels de Aanpak Begeleidingsethiek, is het werken met scenario’s. ‘Ik vind het heel mooi dat er wordt gewerkt met scenario’s, omdat je daarmee kunt laten zien hoe de toekomst met Agentic AI eruit kan zien. Hiermee wordt onze verbeeldingskracht geactiveerd.’ Hij trekt de parallel met dertig jaar geleden toen we dachten wat we nooit een mobiele telefoon zouden gebruiken of met vijf jaar geleden toen we ons niet kon voorstellen dat er een tekstgenerator als ChatGPT zou komen. ‘Innovatieve technologie verandert de manier waarop we dingen doen zo ingrijpend en zo snel dat we dat bijna niet meer zien.’
De dialoogsessies leveren volgens hem een heel concreet resultaat op. ‘De rol van een ambtenaar op een ministerie is om dit soort gesprekken te faciliteren, niet per se om de politieke keuzes te maken. Maar wel om aan te geven: kijk, dit zijn de kansen, dit zijn de risico’s, zo zou je die af kunnen wegen. We hebben ideeën opgehaald vanuit de samenleving en vanuit bedrijven, we zijn erover in gesprek gegaan op een gestructureerde manier; dit zijn de adviezen of handelingsperspectieven die daaruit zijn voortgekomen. Dat is heel waardevol.’
Tot slot ontkracht Djoe het stigma dat nog weleens rondom het ethische gesprek of de dialoog hangt; namelijk dat het soft is. ‘Zo soft is het niet. Het is gewoon wat samenleven inhoudt.’ En daar draait het uiteindelijk om: zorgen dat technologische ontwikkelingen ten dienste staan van de samenleving, met respect voor de waarden die we met elkaar belangrijk vinden.
Lees hier het verslag van de sessie Agentic AI voor inkoop bij de overheid
Artikelen uit de nieuwsbrief ‘Waardengedreven Dialogen – Agentic AI‘
1. Introductie nieuwsbrief ‘Waardengedreven Dialogen – Agentic AI’
2. Agentic AI en de impact op publieke waarden – Sophie van Baalen (TNO)
3. Hoe AI-agents werk menselijker kunnen maken – Wouter van der Harg (CGI)
4. Casus in beeld: De AI-agent als recruiter bij CM.com
5. Agentic AI in de praktijk – Ethische afwegingen bij IBANXS – Hans Vermeijs (IBANXS)
6. Kansen benutten, risico’s begrenzen: BZK over Agentic AI – Djoe Kuils (BZK)
7. Terugblik: Werkconferentie Agentic AI
8. Toekomstscenario’s: een blik op de toekomst met AI-Agents – Daniël Tijink (ECP) en Marleen van Leengoed (VBI studio)
Lees hier de verslagen van de sessies rondom Agentic AI
1. Recruitment AI Agent
2. Agentic AI in Fintech
3. Agentic AI voor inkoop bij de overheid
