Dit interview is onderdeel van de reeks dialoogsessies die de Aanpak Begeleidingsethiek (ABE) heeft georganiseerd, in samenwerking met ministerie van Binnenlandse Zaken en Koninkrijksrelaties (BZK) over vier belangrijke thema’s: immersieve technologie, algoritmen in het openbaar bestuur, neurotechnologie en generatieve AI in overheidsprocessen.

Het is 2022 als ChatGPT gelanceerd wordt. Twee jaar later rapporteert het CBS dat bijna een kwart van de Nederlanders gebruikmaakt van kunstmatige intelligentie à la ChatGPT. In de groep 18 tot 25-jarigen is dat zelfs bijna de helft. Met andere woorden: het gaat snel. Tijd voor de overheid om haar standpunten te bepalen over ontwikkelingen en gebruik van generatieve AI bij de overheid.

Als we het vandaag de dag over AI hebben, hebben we het vaak over generatieve AI: kunstmatige intelligentie die content genereert. Tekst, beeld en geluid in al z’n digitale verschijningsvormen. Daarmee is het een verlengstuk geworden van het menselijk denk- en scheppingsvermogen. Bovendien is generatieve AI in tegenstelling tot de meeste traditionele vormen van kunstmatige intelligentie relatief simpel beschikbaar voor heel veel mensen. ‘Het is in razend tempo gewoon geworden,’ aldus Jasper Kars, senior beleidsmedewerker Data & AI bij het ministerie van Binnenlandse Zaken en Koninkrijksrelaties (BZK). ‘Waarbij het belangrijk is te onderkennen dat het hier om systeemtechnologie gaat. Dus om technologie die door de hele samenleving en economie, in alle domeinen en voor allerlei doeleinden gebruikt kan worden. Dat zorgt voor maatschappelijk debat en vraagt om sturing van de overheid.’

Binnen het verantwoordelijke directoraat-generaal Digitalisering en Overheidsorganisatie houdt Kars zich bezig met het AI-beleid voor de overheid. ‘In 2023 zijn we begonnen met een visievorming rond generatieve AI. Wat is het, wat verwachten we aan nieuwe ontwikkelingen, wat is de maatschappelijke impact van deze technologie; waarmee je al snel terechtkomt op het identificeren van kansen en risico’s. Dat alles in de context van huidige en toekomstige regelgeving en beleid, zowel nationaal als op Europees niveau. Daar komen de recente geopolitieke ontwikkelingen bij die nopen tot een discussie over digitale autonomie.’

Niet naïef zijn

Vanwege de eerdergenoemde wijdverbreide beschikbaarheid en de ontwikkelsnelheid van de technologie is er niet veel tijd voor verkenning en visievorming. ‘Een overheid die wil sturen moet meer doen dan signaleren. Daarom zijn we snel naar de fase van experimenteren gegaan. Overheden organiseren pilots, bijvoorbeeld met interne en externe chatbots, met AI-assistenten, met testen van betrouwbare en transparante AI-modellen en tools. Vooral om te beproeven tegen welke dilemma’s ambtenaren oplopen als ze generatieve AI in hun werk inzetten. We zien allerlei ontwikkelingen in de samenleving waar AI een rol in heeft of zal hebben, zoals efficiëntere werkvormen en een veranderende arbeidsmarkt. Een adaptieve overheid kijkt daarnaar. We moeten stimuleren, aanjagen, versnellen. De vruchten plukken van nieuwe technologie zonder naïef te zijn.’

Naïef zijn kent verschillende niveaus. ‘Er is het niveau van de individuele ambtenaar die zelf allerlei accounts aanmaakt; het niveau van de organisatie die niet zorgt voor goede randvoorwaarden voor de medewerkers zoals handleidingen en opleidingen; het sectorbrede niveau waarin niet aan bestuurlijke bewustwording wordt gewerkt. En bovenal is het naïef om af te wachten of zelfs om de technologie helemaal niet te gebruiken. Als je als overheid wilt dat mensen voor je willen werken kun je een sleuteltechnologie als AI niet naast je neerleggen; de wereld om je heen verandert en dat vraagt ook een adaptieve overheid.’

Kader met keuzes

‘Wat je wél moet doen is normeren, een verantwoord kader opstellen waarin we als overheid dezelfde spelregels hebben,’ vervolgt Jasper Kars. ‘Niet alleen voor het Rijk maar overheidsbreed. Met standpunten over wat wel en niet kan. Als je als overheidsorganisatie generatieve AI inzet, doe het dan met een model dat lokaal draait of door afspraken te maken met de leverancier. Daarmee dek je al bepaalde risico’s af. Het gaat ook over vaststellen dat je bij gebruik van een AI-tool altijd een risicoanalyse doet, dat een Data protection impact assessment (DPIA) vereist is als je met persoonsgegevens werkt. Dat de spelregels overheidsbreed gelden betekent overigens niet dat ze overal hetzelfde of in dezelfde mate worden toegepast. Dat heeft te maken met de waarden waar een specifieke organisatie de nadruk op legt. Bijvoorbeeld: DUO en de politie werken allebei voor het publieke belang. Maar bij de een heeft dienstverlening prioriteit, bij de ander veiligheid. Dat heeft gevolgen voor de mate waarin of op welke manier je AI inzet. Daarnaast zijn er overheidsorganisaties die zoveel opgaven hebben dat het omarmen van generatieve AI bijna noodzaak is, terwijl er ook organisaties zijn die minder kerntaken hebben die zich daartoe lenen. Binnen datzelfde overheidsbrede kader zijn er dus altijd keuzes.’

Overheidsbreed is sleutelbegrip

Jasper benadrukt dat het overheidsbrede standpunt AI aansluit bij de ethische kaders die bijvoorbeeld zijn opgenomen in het algoritmekader. Een Impact Assessment Mensenrechten en Algoritmes (IAMA) vraagt bijvoorbeeld ook om een bepaalde waardenafweging te maken. ‘Bij de inzet van AI kom je al snel bij ethische dilemma’s rond privacy en andere grondrechten. Dat is die risicokant waar ik het eerder over had. Daar tegenover staan de kansen en mogelijkheden die AI kan bieden voor het verbeteren van de dienstverlening en voor efficiëntere datagedreven processen. Allemaal interessante vraagstukken om de Aanpak Begeleidingsethiek op los te laten. Tot slot is het belangrijk om te vermelden dat het overheidsbrede standpunt AI ook aansluit op de Nederlandse Digitaliseringsstrategie (NDS) die door de staatssecretaris Digitalisering wordt gelanceerd. Ook in de NDS is overheidsbreed samenwerken het sleutelbegrip. De NDS heeft als doel om op een aantal prioriteiten te belemmeringen weg te nemen en te versnellen.  AI is hierin expliciet benoemd als een van de prioriteiten.’

Het overheidsbrede standpunt voor de inzet van generatieve AI bij de overheid en de handreiking voor de verantwoorde inzet van generatieve AI zijn eind april gelanceerd.

Artikelen uit de nieuwsbrief ‘Waardengedreven Dialogen – Generatieve AI bij de overheid’:
1. Nieuwsbrief Generatieve AI bij de overheid: Innovatie en ethiek gaan hand in hand
2. Interview: Overheidsbreed standpunt een belangrijke stap voorwaarts bij de inzet van generatieve AI.
3. Interview: ‘Op een verantwoorde manier meegaan in de technologische ontwikkelingen’
4. Casus in beeld: AI-chatbot voor Ongevallenhandboek
5. De slimme assistent op de werkvloer
6. Terugblik werkconferentie waardengedreven dialogen: Generatieve AI bij de overheid