Dit interview is onderdeel van de reeks dialoogsessies die de Aanpak Begeleidingsethiek (ABE) heeft georganiseerd, in samenwerking met ministerie van Binnenlandse Zaken en Koninkrijksrelaties (BZK) over Agentic AI.
Financiële tech start-up IBANXS fungeerde als een van de praktijkvoorbeelden voor een sessie begeleidingsethiek rond Agentic AI. CEO en oprichter Hans Vermeijs vertelt over de concrete toepassing van AI-agents in zijn bedrijf en wat de waardengedreven dialoog opleverde.
‘Heel waardevol dat je er met een diverse groep naar kijkt. Je bedenkt jouw oplossing vooral vanuit je eigen achtergrond en dan denk je dat je overal aan gedacht hebt, maar met zo’n sessie ga je ook andere aspecten zien.’
IBANXS is een financiële instelling die onder toezicht van De Nederlandsche Bank open banking-diensten aanbiedt. Het bedrijf biedt één gestandaardiseerde toegang naar haar platform, dat vervolgens de verbinding legt met banken door heel Europa. Klanten kunnen via IBANXS betalingen doen of rekeninginformatie uitlezen, bijvoorbeeld om boekhoudpakketten automatisch te laten synchroniseren met bankgegevens.
Inmiddels heeft IBANXS meer dan 2500 banken aangesloten in 31 landen en verwerkt het bedrijf dagelijks 1,5 miljoen verzoeken. Die schaalgrootte brengt uitdagingen met zich mee. ‘Ik ben er niet op uit om mijn team te vertienvoudigen voor tien keer zoveel klanten,’ vertelt Hans Vermeijs. ‘Je wilt dat het schaalbaar is, en daar helpt agentic AI bij.’
Sinds een jaar werkt IBANXS samen met DevRev aan de integratie van AI-agents. In juli gingen de eerste agents live, en inmiddels worden ze voor vier verschillende doeleinden ingezet. De meest geavanceerde toepassing, die ook centraal stond in de waardengedreven dialoog, richt zich op het verwerken van systeemalerts.
Wanneer er iets misgaat in de dataverwerking, bijvoorbeeld door onderhoud bij een bank of onverwachte wijzigingen, genereert het platform van IBANXS automatisch alerts. Voorheen stroomden die naar Slack, maar bij grote volumes werd dat onoverzichtelijk. Nu bundelt het systeem die berichten, waar een AI-agent ze overneemt. ‘Die agent is in staat om alerts te groeperen en te categoriseren,’ legt Hans uit. ‘Hij weet: dit gaat over ING, er zijn 6000 alerts geweest in 24 uur over deze specifieke functies.’ Vervolgens maakt de agent zelfstandig een ticket aan in het systeem of verrijkt hij een bestaand ticket met de nieuwste informatie. Tot slot kent hij het ticket toe aan de juiste medewerker, gebaseerd op diens ervaring met specifieke banken.
Dit is een voorbeeld van Agentic AI waar het ethisch interessant begint te worden. De agent analyseert niet alleen, maar neemt ook zelfstandig beslissingen en voert acties uit. Een perfecte casus om onder de loep te nemen tijdens een sessie Aanpak Begeleidingsethiek.
Tijdens de sessie kwam een diverse groep mensen bijeen: accountants, juristen, technici en andere experts en gebruikers. ‘Dat vond ik heel waardevol,’ zegt Hans. ‘Iedereen bekijkt jouw oplossing op zijn eigen manier en geeft daar feedback op. Je bedenkt jouw oplossing vooral vanuit je eigen achtergrond en dan denk je dat je overal aan gedacht hebt, maar met zo’n sessie ga je ook andere aspecten zien.’
Hoewel de AI-agent van IBANXS geen toegang heeft tot financiële of privacygevoelige data, een bewuste keuze vanwege de eisen van De Nederlandsche Bank, kwamen daarover tijdens de sessie toch relevante vragen naar boven. Wat als dat in de toekomst wel zou gebeuren? Hoe kijk je daar ethisch tegenaan?
Een inbreng die Hans bijzonder waardeerde, kwam van een deelnemer met expertise in Agentic AI. ‘Hij gaf aan waar je voor moet waken: de werking van je AI moet testbaar blijven. Je moet manieren hebben om te kunnen toetsen wat hij doet en hoe hij dat doet.’ Momenteel kan IBANXS de workflows definiëren en een soort log bijhouden van welke stappen de agent zet en wat de tussenresultaten zijn. Maar de betreffende deelnemer wees op een groter vraagstuk: bij verdere opschaling heb je behoefte aan een dashboard waar je het gedrag van agents kunt monitoren. ‘Dat vind ik een interessant thema om verder over na te denken,’ zegt Hans. ‘Hoe zou je dat kunnen bewerkstelligen?’ Het raakt aan een fundamentele ethische vraag: als je autonomie aan AI geeft, hoe blijf je dan in control? En hoe maak je die controle inzichtelijk?
Op dit moment zit er bij IBANXS altijd een menselijke schakel in het proces. Geen enkel bericht gaat volledig geautomatiseerd naar klanten zonder menselijke controle. Maar Hans denkt al verder. ‘Nu hebben we één agent, maar je zou naar Agentic AI willen waarbij verschillende agents elkaar aansturen en op elkaar reageren.’ Hij schetst een toekomstbeeld dat dichterbij is dan je denkt: ‘We krijgen berichten van banken over onderhoud. Maar wie zegt dat die van mensen afkomen? Het kan ook van een AI-agent afkomen. Dan heb je AI-agents die op AI-agents gaan reageren.’
Bij een bepaalde schaalgrootte zou je wellicht willen dat berichten volledig geautomatiseerd naar klanten gaan. ‘Maar dan moet je wel vertrouwen hebben opgebouwd en weten dat het goed gaat,’ benadrukt Hans. En juist daarom zijn waardengedreven dialogen waardevol: ze helpen bij het opbouwen van dat vertrouwen door verschillende perspectieven te betrekken voordat je zo’n stap zet.
Voor Hans was de waardengedreven dialoog vooral een startpunt. ‘Ik zou er graag een vervolg aan geven, want we hebben maar drie thema’s behandeld terwijl er veel meer zijn.’ Hij pleit voor het behouden van de diversiteit aan deelnemers. ‘Dat gemêleerde gezelschap met verschillende achtergronden helpt heel erg om vanuit verschillende oogpunten te kunnen kijken.’
De casus van IBANXS laat zien dat Agentic AI al volop wordt toegepast in kritieke sectoren als de financiële dienstverlening. Maar het laat ook zien dat de ethische vragen nog lang niet zijn uitgedacht. Wanneer geven we agents autonomie? Hoe borgen we testbaarheid en controle? En hoe bereiden we ons voor op een toekomst waarin agents met elkaar communiceren? Het zijn vragen waar we met verschillende perspectieven naar moeten blijven kijken, precies dát wat de Aanpak Begeleidingsethiek beoogt.
Lees hier het verslag van de sessie Agentic AI in Fintech
Artikelen uit de nieuwsbrief ‘Waardengedreven Dialogen – Agentic AI‘
1. Introductie nieuwsbrief ‘Waardengedreven Dialogen – Agentic AI’
2. Agentic AI en de impact op publieke waarden – Sophie van Baalen (TNO)
3. Hoe AI-agents werk menselijker kunnen maken – Wouter van der Harg (CGI)
4. Casus in beeld: De AI-agent als recruiter bij CM.com
5. Agentic AI in de praktijk – Ethische afwegingen bij IBANXS – Hans Vermeijs (IBANXS)
6. Kansen benutten, risico’s begrenzen: BZK over Agentic AI – Djoe Kuils (BZK)
7. Terugblik: Werkconferentie Agentic AI
8. Toekomstscenario’s: een blik op de toekomst met AI-Agents – Daniël Tijink (ECP) en Marleen van Leengoed (VBI studio)
Lees hier de verslagen van de sessies rondom Agentic AI
1. Recruitment AI Agent
2. Agentic AI in Fintech
3. Agentic AI voor inkoop bij de overheid
