AI in de financiële sector: jij blijft verantwoordelijk
AI schrijft rapporten, scoort klanten en signaleert verdachte transacties. Het systeem rekent, jij beslist. Maar wat doe je als een model een uitkomst geeft waar je zelf aan twijfelt, en niemand controleert of je doorvraagt? Het dialoogdocument CTRL SHFT onderzoekt wat systemen die meebeslissen betekenen voor je vakbekwaamheid en integriteit. Hier lees je welke keuzes bij jou blijven.
In het kort
- Een AI-systeem neemt de verantwoordelijkheid niet over: de professional blijft aanspreekbaar op de uitkomst.
- De Europese AI-verordening stelt eisen aan het gebruik van AI, waaronder AI-geletterdheid van medewerkers.
- In gesprekken met de sector kwamen knelpunten naar voren op drie niveaus: de markt, de organisatie en de dienstverlening.
Thema’s
Dialoogdocument: CTRL SHFT
AI is een van de meest ingrijpende ontwikkelingen van deze tijd, ook in de financiële sector. DSI sprak hierover met de sector, samen met The Can Do Company. Daaruit kwamen knelpunten naar voren op drie niveaus: de markt (het speelveld), de organisatie (de werkvloer) en de dienstverlening (de services). Het dialoogdocument legt één vraag bij jou neer: welke afwegingen maak je als systemen meedenken?
Wat zeggen de kernprincipes over AI
Een model kan veel, maar het weet niet wat zorgvuldig handelen is. Dat blijft aan jou. De Kernprincipes geven houvast bij vragen die geen wetsartikel beantwoordt: mag je een adviesvoorstel overnemen dat je niet kunt uitleggen? Wat doe je met een uitkomst die klopt volgens het model, maar niet volgens je gevoel voor de klant?
Wat je moet weten over regels rond AI
Europese AI-verordening
Deze verordening (EU 2024/1689) deelt AI-toepassingen in naar risico en stelt eisen aan systemen en gebruikers. Kredietbeoordeling en risicobeoordeling van personen vallen onder de categorie met strengere eisen.
AI-geletterdheid
Organisaties die AI gebruiken, moeten ervoor zorgen dat medewerkers voldoende begrijpen van de systemen waarmee ze werken.
AVG
Bij geautomatiseerde besluitvorming over personen heeft de klant rechten, zoals menselijke tussenkomst en uitleg.
DORA
Wie AI via een externe partij inkoopt, valt voor de afhankelijkheid van die partij onder de regels voor digitale operationele weerbaarheid.
Ontdek onze thema’s
Integriteit
Praktische ethiek als het fundament van een betrouwbare sector
Artificial Intelligence
Hoe verandert AI de rol van de financiële professional?
Compliance
Handige handvatten om te navigeren door Europese en nationale regelgeving.
Crypto
De kansen en risico’s van crypto en blockchain.
Sustainable finance
Sustainable finance praktisch vertaald naar de dagelijkse adviespraktijk.
Nieuwe belegger
De impact van generatieverschuivingen en social media op beleggen.
Hybride professional
Hoe de vakbekwaamheid van de professional van de toekomst zich ontwikkelt.
DSI Nieuws
Alle ontwikkelingen rondom DSI Certificeringen, PV en Tuchtrecht