AI in de financiële sector: jij blijft verantwoordelijk
AI schrijft rapporten, scoort klanten en signaleert verdachte transacties. Het systeem rekent, jij beslist. Maar wat doe je als een model een uitkomst geeft waar je zelf aan twijfelt, en niemand controleert of je doorvraagt? Het dialoogdocument CTRL SHFT onderzoekt wat systemen die meebeslissen betekenen voor je vakbekwaamheid en integriteit. Hier lees je welke keuzes bij jou blijven.
In het kort
- Een AI-systeem neemt de verantwoordelijkheid niet over: de professional blijft aanspreekbaar op de uitkomst.
- De Europese AI-verordening stelt eisen aan het gebruik van AI, waaronder AI-geletterdheid van medewerkers.
- In gesprekken met de sector kwamen knelpunten naar voren op drie niveaus: de markt, de organisatie en de dienstverlening.
Dialoogdocument: CTRL SHFT
AI is een van de meest ingrijpende ontwikkelingen van deze tijd, ook in de financiële sector. DSI sprak hierover met de sector, samen met The Can Do Company. Daaruit kwamen knelpunten naar voren op drie niveaus: de markt (het speelveld), de organisatie (de werkvloer) en de dienstverlening (de services). Het dialoogdocument legt één vraag bij jou neer: welke afwegingen maak je als systemen meedenken?
Wat zeggen de kernprincipes over AI
Een model kan veel, maar het weet niet wat zorgvuldig handelen is. Dat blijft aan jou. De Kernprincipes geven houvast bij vragen die geen wetsartikel beantwoordt: mag je een adviesvoorstel overnemen dat je niet kunt uitleggen? Wat doe je met een uitkomst die klopt volgens het model, maar niet volgens je gevoel voor de klant?
Wat je moet weten over regels rond AI
