PrepAIr

De impact van de nieuwe AI-wetgeving (AI-Act) op de financiële dienstensector

De recente overeenstemming tussen het Europees Parlement en de Raad over het gewijzigde voorstel voor een AI-verordening van de Europese Commissie markeert een significante stap in de regelgeving rondom kunstmatige intelligentie (AI) binnen de Europese Unie. Deze ontwikkeling, die gericht is op het bieden van een uniform rechtskader voor de ontwikkeling en het gebruik van AI, heeft belangrijke implicaties voor de financiële dienstensector.

De recente overeenstemming tussen het Europees Parlement en de Raad over het gewijzigde voorstel voor een AI-verordening van de Europese Commissie markeert een significante stap in de regelgeving rondom kunstmatige intelligentie (AI) binnen de Europese Unie. Deze ontwikkeling, die gericht is op het bieden van een uniform rechtskader voor de ontwikkeling en het gebruik van AI, heeft belangrijke implicaties voor de financiële dienstensector​​​​​​.

De AI-Act classificeert AI-systemen in vier risiconiveaus: Onaanvaardbaar risico, hoog risico, beperkt risico en minimaal risico:

  1. Onaanvaardbaar risico: Deze categorie omvat AI-systemen die worden beschouwd als een gevaar voor fundamentele rechten of de democratie. Voorbeelden hiervan zijn systemen voor maatschappelijke scoring en AI die gedragsmanipulatie van kwetsbare groepen bevordert. Deze systemen zijn verboden onder de nieuwe regelgeving​​.
  1. Hoog risico: AI-systemen in deze categorie hebben een aanzienlijk potentieel om schade te berokkenen aan gezondheid, veiligheid of fundamentele rechten. Ze zijn onderhevig aan strikte verplichtingen, zoals een verplichte beoordeling van de impact op de fundamentele rechten. Voorbeelden zijn AI-toepassingen in medische hulpmiddelen en systemen die gebruikt worden in kritieke infrastructuur​​.
  2. Beperkt risico: Deze categorie betreft AI-systemen die enige risico’s met zich meebrengen, maar niet op het niveau van hoog risico. Voor deze systemen gelden specifieke transparantieverplichtingen. Een voorbeeld zou een AI-systeem kunnen zijn dat interactief is en gebruikers moet informeren dat ze met een AI aan het communiceren zijn​​, zoals een chatbot. 
  3. Minimaal risico: De meeste AI-systemen vallen onder deze categorie, waarbij het risico op schade als laag wordt beschouwd. Voor deze systemen zijn de regelgevende vereisten beperkt of afwezig. Dit kan bijvoorbeeld gelden voor AI-toepassingen in videogames of spamfilters​​.

Deze classificatie is ontworpen om een evenwicht te vinden tussen het bevorderen van innovatie en het beschermen van burgers tegen potentiële schade door AI-technologieën.

Hoofddoelstellingen van de verordening

De AI-Act streeft ernaar de introductie van mensgerichte en betrouwbare AI te bevorderen, terwijl tegelijkertijd een hoge mate van bescherming tegen de schadelijke effecten van AI-systemen op het vlak van gezondheid, veiligheid, grondrechten, democratie, rechtsstaat en het milieu wordt gewaarborgd. Specifieke aandachtspunten binnen de verordening omvatten de bescherming van fundamentele rechten en het garanderen van transparantie en traceerbaarheid van AI-systemen​​​​.

Implicaties voor de Financiële Dienstensector

  • Verhoogde regulering en toezicht: Financiële instellingen zullen te maken krijgen met strengere regels voor ‘hoog-risico’ AI-systemen. Deze systemen, die aanzienlijke invloed kunnen hebben op bijvoorbeeld de kansen van mensen op de arbeidsmarkt of financiële dienstverlening, zullen onderhevig zijn aan grondige evaluaties en goedkeuringen voordat ze op de markt gebracht mogen worden​​.
  • Transparantie en verantwoording: De verordening vereist dat financiële dienstverleners transparant zijn over het gebruik van AI in hun processen en producten. Dit omvat het informeren van klanten wanneer AI wordt ingezet en het bieden van mogelijkheden voor klanten om bezwaar te maken tegen AI-beslissingen die hen benadelen​​.
  • Innovatie versus veiligheid: De verordening stimuleert innovatie, maar legt tegelijkertijd de nadruk op de veiligheid en betrouwbaarheid van AI-systemen. Dit betekent dat financiële instellingen moeten investeren in AI-technologieën die niet alleen geavanceerd zijn, maar ook voldoen aan strenge veiligheids- en ethische normen​​.
  • Internationale concurrentie: De nieuwe regels zullen ook gelden voor niet-Europese aanbieders van AI-producten en -diensten. Dit schept een gelijk speelveld en zorgt ervoor dat alle spelers in de financiële sector zich aan dezelfde hoge normen moeten houden, ongeacht hun geografische locatie​​.
  • Dataprivacy en bescherming: In lijn met de algemene focus op grondrechten en privacy, zullen financiële dienstverleners extra maatregelen moeten nemen om de privacy en gegevens van hun klanten te beschermen bij het gebruik van AI-systemen​​.

Checklist

Ons team bij PrepAIr heeft de volgende checklist ontwikkeld om de gereedheid van uw organisatie te beoordelen voor het naleven van de vereisten van de AI-wet:

  1. Juridisch en regulatorisch begrip

Begrijp grondig alle aspecten van de AI-wet en identificeer de implicaties voor uw specifieke financiële diensten.

  1. Risico-identificatie en -beoordeling

Identificeer en evalueer risico’s geassocieerd met het gebruik van AI, met speciale aandacht voor gebieden die door de AI-wet als hoog risico worden geclassificeerd.

  1. Gegevensbeheer en compliance

Herzien en afstemmen van gegevensbehandelingspraktijken op de vereisten van de AI-wet, met nadruk op gegevensbronnen, verwerking, opslag en beveiliging.

  1. Evaluatie en aanpassing van AI-systemen

Auditeer bestaande AI-systemen op naleving van de AI-wet en voer de nodige wijzigingen door om aan de normen te voldoen.

  1. Ethische AI-integratie

Implementeer en monitor praktijken om ervoor te zorgen dat AI-systemen ethisch opereren, met focus op het voorkomen van bias en eerlijkheid.

  1. Maatregelen voor transparantie en uitlegbaarheid

Ontwikkel methoden om ervoor te zorgen dat AI-besluitvormingsprocessen transparant en begrijpelijk zijn voor gebruikers en toezichthouders.

  1. Protocollen voor menselijk toezicht en interventie

Stel procedures vast voor menselijk toezicht in AI-systemen, met name in besluitvormingsprocessen.

  1. Interne beleidslijnen en training

Formuleer interne beleidslijnen voor AI-bestuur en voer trainingsprogramma’s uit voor personeel met betrekking tot naleving van de AI-wet en ethische AI-praktijken.

  1. Communicatie met belanghebbenden en rapportage

Onderhoud transparante communicatie met belanghebbenden (regelgevers, klanten, enz.) en stel rapportagemechanismen op voor AI-gerelateerde kwesties.

  1. Beoordelings- en aanpassingsstrategie:

Beoordeel regelmatig AI-systemen en beleid voor voortdurende naleving en pas aan op eventuele veranderingen in de AI-wet en gerelateerde regelgeving.

Conclusie

De AI-Act biedt een raamwerk dat niet alleen innovatie stimuleert, maar ook de veiligheid, transparantie en ethische toepassing van AI in de financiële sector waarborgt. Hoewel dit nieuwe kansen biedt voor financiële dienstverleners, brengt het ook uitdagingen met zich mee op het gebied van naleving en aanpassing aan deze nieuwe regelgeving. Het is essentieel voor organisaties in deze sector om deze veranderingen te begrijpen en zich erop voor te bereiden om competitief en compliant te blijven in het veranderende technologische landschap.

Bronvermelding:

EU-akkoord over sterke, goedwerkende markt voor kunstmatige intelligentie | Nieuwsbericht | Rijksoverheid.nl

VERSLAG over het voorstel voor een verordening van het Europees Parlement en de Raad tot vaststelling van geharmoniseerde regels betreffende artificiële intelligentie (wet op de artificiële intelligentie) en tot wijziging van bepaalde wetgevingshandelingen van de Unie | A9-0188/2023 | Europees parlement (europa.eu)

AI-verordening: eerste regels voor artificiële intelligentie | Nieuws | Europees Parlement (europa.eu)

Artificial Intelligence Act: deal on comprehensive rules for trustworthy AI | News | European Parliament (europa.eu)

European Union Artificial Intelligence Act Regulatory Scheme (natlawreview.com)

Meer weten over Turner PrepAIr?

Wilt u meer weten over wat Turner Strategie = Executie voor uw organisatie kan betekenen? Vul het formulier in en wij nemen zo snel mogelijk contact met u op.

Wilt u meer weten over wat Turner Strategie = Executie voor uw organisatie kan betekenen? Vul het formulier in en wij nemen zo snel mogelijk contact met u op.

PrepAIr
Alexander Bruinsma

Voorbij de hype: Het belang van een gebalanceerde aanpak voor AI

In het AI-tijdperk is een evenwichtige aanpak essentieel. Turner’s PrepAIr biedt een raamwerk voor organisaties om AI verantwoord te implementeren, rekening houdend met aspecten als visie, risico’s, governance en uitvoeringskracht. Deze aanpak helpt organisaties verder te kijken dan de hype, strategieën te vertalen naar actie, en AI effectief te integreren.

Lees meer »
PrepAIr
Alexander Bruinsma

De strijd om AI-talent – Een wedloop in het digitale tijdperk

In de snel evoluerende wereld van AI is het essentieel voor organisaties om zich te onderscheiden in de strijd om top AI-talent. Dit vereist een dynamische aanpak: het vormgeven van een inspirerende werkcultuur, het benadrukken van unieke ontwikkelingsmogelijkheden en het aanpassen aan de nieuwste trends en regelgeving.

Lees meer »

Meer weten over Turner?

Turner Strategie-executie wordt voor het vierde jaar op rij door opdrachtgevers gezien als het beste strategisch adviesbureau van Nederland. Meer dan 4000 bestuurders en professionals deden mee aan het onderzoek van MT1000 waarbij Turner de hoogste waardering ontving voor strategie-advies, klantgerichtheid, excellente uitvoering en productleiderschap.

Lees hier meer over de resultaten die andere opdrachtgevers behaalden met hulp van Turner Strategie Executie. Meer weten? Neem contact met ons op.