BUNQ uitspraak roept de vraag op: wat mag het uurtarief van AI zijn?

“De uitspraak legt een bom onder de wijze waarop DNB tot op heden zijn toezicht ingericht heeft.” stelt Het FD n.a.v. het ‘Historisch hard oordeel rechter over witwasaanpak DNB in Bunq-zaak.‘ Online bank BUNQ wil bij de door De Nederlandsche Bank verplichte witwascontroles ‘gebruikmaken van een lerend systeem dat is gebaseerd op kunstmatige intelligentie’ i.p.v. de door de DNB tot nu toe verplichte menselijke controles.

Als je even doordenkt dat is dit idd een ‘bom’. Een bom met echter ook een positieve impact: banken hebben structureel last om vacatures te vullen als het gaat om door de DNB verplichte witwascontroles. Met deze uitspraak wordt de deur geopend voor human-robot interaction en dat niet alleen v.w.b. witwascontroles maar ook voor v.w.b. audit en control, v.w.b. adviseren en doceren. Zo kan na de banken de cliënt/student binnen afzienbare tijd zelf een AI systeem implementeren, een systeem dat steeds voordeliger zal worden.

“Onze resultaten laten zien dat investeren in AI helpt de kwaliteit van audits te verbeteren, de kosten te verlagen en uiteindelijk menselijke auditors te verdringen, hoewel het effect op de arbeid enkele jaren duurt voordat het werkelijkheid wordt.” Over dat laatste, de genoemde termijn, kun je van mening verschillen maar de conclusies uit het recente onderzoek ‘Is artificial intelligence improving the audit process?‘ zeggen veel over de mogelijke(!) transitie van het controle- en het adviesproces: van in-/externe mens naar alom beschikbare AI.

Iets wat zich al langer aan de horizon liet zien, is met de BUNQ uitspraak in een stroomversnelling gekomen, althans: of kan dat. Overigens, het ‘station’ om kunstmatige intelligentie (AI) nog uit te kunnen sluiten van economie en samenleving, zijn we inmiddels al geruime tijd gepasseerd.

Kunstmatige intelligentie is idd een zelflerend systeem. Het kan niet alleen patronen in data en handelen ontdekken, het kan ook tal van bij de te onderzoeken casus behorende scenario’s formuleren en vervolgens naast de analyses leggen. Dat in een omvang en in een snelheid die menselijk inmiddels onmogelijk is. Wat je ook leert, en ik hoop echt dat je jezelf continue blijft ontwikkelen: de kans dat je met je kennis en kunde achterblijft op AI wordt toch en steeds groter.

AI bevindt zich al in diverse toepassingen binnen onze economie, onze samenleving: naast apps op je smartphone, in je deels autonoom transport, bij handige toepassingen in woning en kantoor. Deze week, bijv., stelt de politie in Oakland (VS) dat men hoopt binnenkort al robots te kunnen bewapenen met potentieel dodelijke shotgun-achtige bewapening. Waarom? ‘Want dat is de realiteit waarin we nu leven.’ Je kan zeggen ‘dat is typisch de Verenigde Staten’ maar nu ons land blijkbaar op weg lijkt te zijn richting een ‘narcostaat’ waarin criminelen het voor het zeggen krijgen, wordt dit waarschijnlijk toch een optie……

Uiteraard zijn er waarschuwingen bij de inzet van AI. Waarschuwingen die o.m. komen van Mo Gawdat, v/m GOOGLE X’s business officer, in zijn boek ‘Griezelig Slim’ resp. prof Erik Brynjolfsson in zijn essay ‘The Turing Trap: The Promise & Peril of Human-Like Artificial Intelligence.‘ Hun belangrijkste waarschuwingen: instrueer AI over ethiek resp. laat AI menselijke interactie niet volledig vervangen. Of zoals prof. Astrid Weiss in 2018 stelde: ‘een robot word nooit je vriend, al geeft die wel die indruk’.

Vanochtend had ik een Teams meeting met HR pro’s en leidinggevenden uit Polen, Hongarije, Griekenland en Nederland. Tegelijkertijd zie ik voor me een vergelijkbare meeting in de Metaverse. Op dat moment zijn we avatars. Zou het daar dan voor mijn relaties bezwaarlijk zijn dat ik word vertegenwoordigd door AI?

Inmiddels is mij duidelijk dat ik het ruim 20 jaar actief zijn op een scala aan sociale media, ooit gestart met idee dat ik mijn database openbaar maak onder het motto ‘kennis delen is kennis geven’, nu kan gebruiken om mijn avatar te ‘voeden’, te voeden met de inhoud van mijn database, niet met die van anderen. Dat had ik vooraf ook niet kunnen vermoeden. Vraag is nu alleen nog: welk tarief hang ik aan mijn AI activiteiten?

261022

“In de praktijk is het onmogelijk om verdachte transacties op een betekenisvolle manier handmatig te toetsen. Hiervoor zou een leger van gespecialiseerde riskmanagers moeten worden opgeleid. Zij zouden in staat moeten zijn om complexe algoritmes te begrijpen, enorme hoeveelheden data te analyseren en nader onderzoek te verrichten. Financieel en organisatorisch is dit volstrekt onhaalbaar.”

Dit is een interessante en relevante uitspraak in de opinie van Anton Ekker en Stef Lips nav de recente ‘Bunq uitspraak’. De ‘onaanvaardbare’ risico’s die beiden aangeven kunnen voortkomen uit het ongereguleerd inzetten van algoritmen. Dit kan, beter nog ‘zal’, leiden tot ongewenste gevolgen.

Bron: Transactiemonitoring op ramkoers met rechten van consumenten (fd.nl)

 

Willem E.A.J. Scheepers

NB; Heb je een LinkedIn profiel, dan nodig ik je graag uit voor een abonnement op de wekelijkse ‘Sunny Side Up’ nieuwsbrief.

 

 

Geef een reactie

Het e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *