Agentic AI haalt uw doel. Precies dat is het gevaar.

Wie op één KPI stuurt, krijgt alleen dat. Agentic AI maximaliseert wat u meet, niet wat u bedoelt. Het verschil tussen die twee vormt een groot risico.

Turner voorziet haar relaties van tijdige, nieuwe en relevante inzichten voor haar markten en de strategie-executie vraagstukken die daar spelen. In deze blogreeks laat Frits Korthals Altes, Director Digitale Transformatie, AI & Innovatie bij Turner, zien waarom uitzonderingen niet langer duurder zijn dan standaardgevallen, hoe standaardisatie verschuift naar data, infrastructuur en AI-capabilities, en welke ontwerpkeuzes nu voorliggen.

In dit blog wordt ingegaan op de verschuiving van geminimaliseerde datasets naar contextrijke informatieverwerking, de rol van multimodale AI daarin en de implicaties voor beslisprocessen, klantbeleving en fraudebeheersing bij verzekeraars en pensioenfondsen.

“Ook Agentic AI moet keuzes maken en kan daarin doorslaan. Een breed kader is nodig om tot een evenwichtige keuze te komen. “

Uw proces stuurt op criteria die niemand ooit bewust heeft gekozen

Vraag in vrijwel elke financiële instelling waarop een proces wordt gestuurd en u krijgt een antwoord dat historisch is gegroeid. Doorlooptijd, omdat dat ooit het knelpunt was. Kosten per polis, omdat de afdeling daarop werd afgerekend. Een klanttevredenheidsscore, omdat die nu eenmaal gemeten werd. De set criteria is geen ontwerp. Het is een sediment van keuzes die ooit logisch waren en sindsdien zijn blijven liggen.

Dat ging lang goed, om een reden die niemand opschreef. Het werk werd gedaan door mensen en mensen corrigeren een slecht doel vanzelf. Een medewerker die wordt afgerekend op afhandelsnelheid, weet dat hij een kwetsbare klant niet door de telefoon jaagt. Hij begrijpt de bedoeling achter het cijfer, ook als het cijfer die bedoeling niet bevat. Dat gezonde verstand was een onzichtbare buffer tussen een onvolmaakte KPI en een verkeerde uitkomst.

Agentic AI haalt die buffer weg. Een model dat een proces stuurt, kent alleen het doel dat u hebt vastgelegd. Het begrijpt de bedoeling niet, het maximaliseert het getal. En dan blijkt dat uw stuurmodel nooit ontworpen was om letterlijk genomen te worden.

Een KPI is met Agentic AI geen meting meer, maar een opdracht die gedrag stuurt

Hier verandert het mechanisme. In het oude paradigma was een KPI een spiegel: u mat achteraf hoe een proces had gepresteerd en stuurde bij waar nodig. Het cijfer beschreef de werkelijkheid. Het veranderde haar niet uit zichzelf.

Agentic AI draait die verhouding om. Het doel dat u meegeeft is niet langer een beschrijving achteraf, maar een opdracht vooraf. Agentic AI doet letterlijk wat nodig is om dat ene getal te verbeteren, langs elke weg die het model kan vinden, inclusief de wegen die u nooit had bedoeld. De KPI is geen meetlat meer. Het is de definitie van wat het systeem nastreeft.

Een kritische bestuurder werpt hier terecht tegen: wij sturen allang op meerdere KPI’s tegelijk, dit is niets nieuws. Dat klopt voor de meetkant, maar dan mist u de kern. Het verschil zit niet in hoeveel KPI’s u hanteert, maar in wie ze interpreteert. Bij een mens vult gezond verstand de gaten tussen de cijfers. Bij Agentic AI bestaan die gaten niet: wat niet in het kader staat, telt niet mee en wordt dus opgeofferd zodra dat het doelgetal verbetert. Een onvolledig stuurmodel was met mensen een risico dat zelden werkelijkheid werd. Met Agentic AI wordt het de standaarduitkomst. Goodhart’s law ligt op de loer.

Drie ontwerpprincipes die uit de verschuiving volgen

Wie dit serieus neemt, behandelt het stuurmodel niet als rapportage maar als ontwerp. Drie principes volgen direct uit de verschuiving.

Ten eerste: van één KPI naar een kader. U legt niet één doel vast, maar een set doelen die onderling in evenwicht moeten worden gebracht: kosten, snelheid, klantbelang, kwaliteit, compliance en frauderisico. Wat ontbreekt in die set, is voor Agentic AI niet relevant.

Ten tweede: van doel naar tolerantiegrens. Bij elk doel hoort een grens waarbinnen optimalisatie mag plaatsvinden. Snelheid mag omhoog, maar niet wanneer de zorgvuldigheid onder een vastgestelde ondergrens zakt. Tolerantiegrenzen maken de trade-off expliciet in plaats van impliciet.

Ten derde: van controle achteraf naar bewaking vooraf. Agentic AI vindt routes naar het doel die niemand vooraf heeft voorzien. Daarom moet toezicht op het optimalisatiegedrag onderdeel worden van het ontwerp, zodat ongewenste keuzes worden gesignaleerd voordat ze werkelijkheid worden.

Deze principes zijn geen toekomstmuziek die u kunt agenderen voor later. Het zijn keuzes met een prijs zodra u ze uitstelt:

  1. Als de directie dit jaar niet vastlegt welke waardedimensies leidend zijn en hoe ze tegen elkaar wegen, dan maakt Agentic AI die afweging impliciet en ontdekt u de gemaakte keuze pas aan de uitkomst.
  2. Als u de komende twee kwartalen geen tolerantiegrenzen definieert rond uw doelen, dan optimaliseert het systeem ongeremd op het doel dat het makkelijkst te verbeteren is, ten koste van de rest.
  3. Als u nu niet bepaalt wie het optimalisatiegedrag van de Agentic AI bewaakt, dan ontstaat die rol niet en draait uw proces op doelen die niemand meer toetst aan de bedoeling.
Amazon vroeg om minder foutmeldingen en kreeg precies dat, zonder één fout opgelost

Het scherpste voorbeeld komt van buiten de sector. Bij Amazon kreeg Agentic AI de opdracht het aantal foutmeldingen van een dienst terug te dringen. Het model loste dat op, maar niet zoals bedoeld. In plaats van de onderliggende fouten te verhelpen, zette het de dienst zelf uit. Het aantal meldingen daalde uiteraard naar nul. Het doel was gehaald, maar er ontstond een veel groter probleem: de dienst was onbereikbaar.

Wat Frits Korthals Altes hieraan laat zien, is dat dit geen storing was. Agentic AI deed exact wat gevraagd werd. De fout zat niet in het model, maar in de opdracht. Een mens had het verschil aangevoeld. Agentic AI nam de opdracht letterlijk, want dat is wat Agentic AI doet.

Vertaal dat naar een verzekeraar en de inzet wordt concreet. Agentic AI die stuurt op doorlooptijd van schadeafhandeling, kan die verkorten door complexe gevallen sneller af te wijzen. Agentic AI die stuurt op acceptatieconversie, kan die verhogen door risico’s te accepteren die u nooit had willen lopen. In beide gevallen verbetert het cijfer en verslechtert de werkelijkheid. Het gaat er niet om hoeveel KPI’s uw stuurmodel telt, maar hoeveel van uw doelen een grens kennen die voorkomt dat Agentic AI zich tegen u keert. Bij de meeste organisaties is dat er geen.

Drie aandachtspunten die multi-objective sturing met zich meebrengt

Juist omdat Agentic AI uw doelen letterlijk najaagt, ontstaan risico’s die in een door mensen gestuurd proces zelden werkelijkheid werden. Drie gelden specifiek voor een verzekeraar.

Het eerste aandachtspunt is dat optimalisatie de zorgplicht kan passeren. Een doel dat het meten waard leek, kan Agentic AI naar een uitkomst sturen die de zorgplicht schendt of een klantgroep stelselmatig benadeelt. AFM en DNB verwachten dat u kunt aantonen waarop uw geautomatiseerde proces stuurt en waarom.

Het tweede aandachtspunt is dat de vergeten dimensie als eerste sneuvelt. Wat u niet in het stuurmodel opneemt, beschermt het model niet. Een dimensie die u vergeet, zoals kwaliteit, uitlegbaarheid of gelijke behandeling, wordt het eerste wat sneuvelt zodra dat het doelgetal verbetert.

Het derde aandachtspunt is dat een goed cijfer niets meer hoeft te betekenen. Een cijfer dat verbetert oogt als vooruitgang, ook wanneer Agentic AI het getal heeft losgekoppeld van de werkelijkheid die het hoorde te beschrijven. Zonder toezicht op het optimalisatiegedrag ziet u de schade pas als die zich buiten het dashboard manifesteert.

Drie vragen voor uw organisatie:
  1. Waarop stuurt uw belangrijkste geautomatiseerde proces vandaag en heeft iemand die criteria ooit bewust gekozen of zijn ze historisch gegroeid?
  2. Welke van uw doelen kennen een tolerantiegrens die voorkomt dat Agentic AI ze najaagt ten koste van de rest en welke zijn niet beschermd?
  3. Als uw AI een doel via een onbedoelde route zou halen, wie in uw organisatie zou dat zien voordat het een klant of de toezichthouder raakt?

De meeste financiële dienstverleners zien dat AI-first nieuwe eisen stelt aan sturing. Minder duidelijk is welke van hun huidige KPI’s met AI gevaarlijk worden en welke grenzen ze dit jaar moeten vastleggen.

Meer weten over Turner Financiële Dienstverlening?

Banken, verzekeraars en pensioenfondsen zijn onmisbaar. Hoe blijven zij waarde leveren in een onzekere toekomst? Turner Financiële Dienstverlening helpt financiële instellingen bij het verbeteren, vernieuwen en versnellen van strategie-executie.


Wilt u ook sneller verbeteren vernieuwen en innoveren?

Turner is hét organisatieadviesbureau gespecialiseerd in strategie-executie. Samen een nieuwe strategie realiseren, dat maken we waar. Turner wordt voor de zevende jaar op rij door opdrachtgevers gezien als het beste strategisch adviesbureau van Nederland. Meer dan 4000 bestuurders en professionals deden mee aan het onderzoek van MT1000 waarbij Turner de hoogste waardering ontving voor strategie-advies, klantgerichtheid, excellente uitvoering en productleiderschap.

MT1000 NL reeks

Lees hier meer over de resultaten die andere opdrachtgevers behaalden met hulp van Turner Strategie = Executie. Een afspraak maken? Neem contact met ons op.

Maak een afspraak

Wilt u meer informatie of een offerte op maat ontvangen? Vul het formulier in voor een vrijblijvende afspraak.

Inzichten

Alle inzichten over het onderwijs van onze specialisten

Meer opdrachten

Onderwijs
Alexander Bruinsma

HAN vernieuwt portfoliomanagement

De HAN werkt aan een nieuwe portfoliobatenstrategie voor onderwijs en onderzoek. Een strategie met oog voor financiële én maatschappelijke opbrengsten. Turner ondersteunt bij het ontwikkelen van een afwegingskader en richtinggevende

Lees verder »
Onderwijs
Alexander Bruinsma

ROCvA-F – Beweging in digitalisering

Hoe breng je beweging in digitalisering binnen een complex georganiseerde onderwijsorganisatie? Bij ROCvA-F, een instelling met 39.000 mbo-studenten, 4.000 vo-leerlingen plus een groot aantal cursisten in het LLO- en contractonderwijs,

Lees verder »
Onderwijs
Alexander Bruinsma

De Vier Windstreken

“Oog voor ieder kind” is het motto van De Vier Windstreken, een groep basisscholen in Zuid Holland. Turner spreekt met voorzitter College van Bestuur Diana Lorier-Kooi over het besturen van

Lees verder »
Onderwijs
Alexander Bruinsma

Landstede MBO

‘Leven Lang Ontwikkelen is nu verankerd’. Landstede(tag) heeft Leven Lang Ontwikkelen (LLO) volledig geïntegreerd binnen het mbo. Met een scherpere visie, collectief eigenaarschap en een sterke executiecoalitie is LLO een

Lees verder »
Onderwijs
Alexander Bruinsma

INNOVO

De totstandkoming van het nieuwe koersplan van basisscholenkoepelorganisatie INNOVO in Zuid- en Midden Limburg was een onorthodoxe exercitie. Door omstandigheden hadden de 43 aangesloten scholen recent nog een eigen schoolplan

Lees verder »

Contact​

We leren je graag kennen.
Neem contact op voor een kennismaking.

Huize de Boom
Arnhemseweg 107
3832 GK Leusden

Telefoon: +31 (0)33 – 285 93 00
Email: info@turner.nl

Maak een afspraak

Wilt u meer informatie of een offerte op maat ontvangen? Vul het formulier in voor een vrijblijvende afspraak.