AI voorspelt alles behalve het onvoorspelbare

AI blijft een van de meeste gehypete technologieën van dit moment. Het lijkt alsof er niks is wat AI niét kan. Maar klopt dat wel? Welke rol speelt AI vandaag in de financiële afdelingen van bedrijven? En wat mogen we er de komende jaren van verwachten? Voor een antwoord op deze vragen nodigden we een topautoriteit uit voor een rondetafelgesprek: professor Ann Dooms, hoofd van de onderzoeksgroep Digital Mathematics van de VUB.

Naast professor Dooms schoven enkele topmanagers en CFO’s uit diverse organisaties aan, van de Nationale Bank en het Europees Parlement over een chemiebedrijf tot en met een zuivelcoöperatie. Voor de meeste aanwezigen was AI iets waar ze nog niet écht veel mee te maken hadden. Een enkeling wist dat er met de technologie geëxperimenteerd wordt op de marketingafdeling van zijn organisatie, een andere deelnemer gaf aan dat er in de Aziatische vestiging van zijn bedrijf serieus gerekruteerd wordt onder data scientists.

Een van de meest concrete toepassingen werd aangeleverd door Recupel, de vzw die afgedankte elektronische toestellen een nieuw leven geeft. “We hebben enkele jaren geleden een project opgezet met de UAntwerpen en imec waarbij we een algoritme gebruiken om afgedankte elektro te herkennen”, zegt CFO Christel Vermeersch. “Op die manier kan een camera bijvoorbeeld automatisch herkennen welk keukenapparaat voorbij komt op een lopende band. Op die manier hebben we onze sampling in belangrijke mate kunnen automatiseren. Interessant detail: de AI werd ‘getraind’ door mensen van een maatwerkbedrijf. In een volgende fase willen we ook het merk laten herkennen. Dat kan bv. interessant zijn om in te schatten of het nog kans maakt op de tweedehandsmarkt. Combineer je die herkenning met serienummers en databanken, dan krijg je potentieel een 360° profiel of zelfs een digitaal paspoort van dat toestel. Maar dat is nog toekomstmuziek.”

Dit soort voorbeelden geeft al aan dat AI momenteel vooral nog een operationeel verhaal is, iets wat de meeste deelnemers ook onderkenden. Op financiële afdelingen moet de technologie nog grotendeels zijn ingang vinden. “Finance is vooral een ondersteunende afdeling, waar veel bedrijven vooral heel kostenbewust mee omgaan”, zegt Laura Van Tol, hoofd van SAP Concur Belux. “Nochtans zijn hier ook grote winsten te boeken, bv. door het detecteren van onregelmatige patronen in expenses of het efficiënter maken van kostenprocessen. En dat is precies wat we met SAP Concur doen met behulp van AI. SAP Concur gaat op basis van AI automatische controles uitvoeren en signaleren wanneer er iets niet conform de afspraken is.”

Berg data

Dat AI momenteel nog een onbekende is, wil niet zeggen dat bedrijven zich er niet op voorbereiden. “Wij zitten op een gigantische berg data waar we momenteel eigenlijk nog veel te weinig mee doen”, zegt directeur Tom Dechaene van de Nationale Bank. “Dat zijn duizenden en duizenden pagina’s over leningen die in ons land worden verstrekt, de terugbetalingscapaciteit, bevragingen van bedrijven enzovoort. Tot nu zat dat allemaal in aparte silo’s, maar we zijn bezig om dat in een groot data lake te steken, zodat we bijvoorbeeld verbanden kunnen zoeken. Ik geef maar een voorbeeld: wat zegt pakweg het aantal containers in de haven van Antwerpen over de economische conjunctuur?”

In elk geval waren de verwachtingen over wat AI kan, bij alle deelnemers hooggespannen. Er vielen verwijzingen naar het herkennen van kunstwerken, het maken van nieuwe kunst en zelfrijdende auto’s. Voor professor Dooms was dat het moment om de disgenoten even terug met de voeten op de grond te zetten. Er kan al heel wat, maar nog lang niet alles en veel hangt af van met welk soort data u een AI-systeem voedt. “Het is voor AI heel lastig om patronen te ontdekken wanneer de gebruikte data niet representatief genoeg is om gebeurtenissen te voorspellen”, aldus Ann. “Wanneer er een mooi verband bestaat tussen de verschillende datapunten gaat dat veel makkelijker. Net daarom dat er vooral veel AI-toepassingen worden ontwikkeld die met beelden of taal te maken hebben. Want dat zijn twee bij uitstek vrij voorspelbare fenomenen.”

Pijp van Magritte

Dooms had verschillende voorbeelden bij die deze stelling onderbouwden. Een gedigitaliseerde pijp van Magritte kan door een AI-systeem herkend worden omdat de vorm van een pijp universeel is en daarom vrij gemakkelijk kan geleerd worden. Door genoeg voorbeelden ervan aan een neuraal netwerk aan te bieden, kan dit op den duur ook andere pijpen dan die van Magritte herkennen. Of een kat. Of een hond.
Analoog leert een netwerk uit massa’s teksten op den duur de betekenis van woorden. Zo’n AI wordt bijvoorbeeld getraind door in zinnen bepaalde woorden weg te laten en deze proberen te laten voorspellen. Ook als de uitkomst compleet fout is, heeft het systeem weer iets geleerd. Door hier steeds meer computerkracht tegenaan te gooien, kan men op den duur niet alleen woorden weglaten, maar hele paragrafen.
Professor Dooms: “Op dit moment kunnen computers al zelfstandig een complete tekst schrijven over een bepaald onderwerp. Met een begin, een midden en een einde: een prima voorbeeld van een herkenbaar patroon. Met compleet onvoorspelbare fenomenen zoals de uitbraak van een ziekte of het verloop van een oorlog kan een AI-systeem eigenlijk niks. Dat is misschien een reden waarom AI nog niet zozeer in financiële afdelingen is doorgedrongen. Er zijn daar veel onberekenbare risico’s.”

Ook het interpreteren van een met AI gevonden verband tussen twee fenomenen is moeilijk, aldus de professor. “Stel bijvoorbeeld dat u data verzamelt over het aantal verdrinkingen en de verkoop van ijsjes in Oostende van winter tot zomer. Een AI-systeem zal hier meteen een verband vinden: aan zee zijn er veel meer verdrinkingen wanneer de verkoop van ijsjes piekt. Het netwerk weet echter totaal niet dat de verbindende factor eigenlijk het seizoen is. Naarmate het warmer wordt, stijgen beide fenomenen. In dit voorbeeld zien wij als mens echter makkelijk dat het inperken van de verkoop op ijsjes geen invloed zal hebben op het aantal verdrinkingen. Toch zien we dat met AI gevonden verbanden al gauw als causaal worden gezien. Er bestaat dus een groot risico op het trekken van foute conclusies of erger, het nemen van foute acties.”

Toch is in bedrijfsomgevingen al veel mogelijk, countert Katelijne Leemans, CFO SAP Belux. “De software van SAP maakt gebruik van AI om processen als lead-to-cash, source-to-pay, etc. te automatiseren en optimaliseren. De vraag is natuurlijk in hoeverre finance-afdelingen effectief aan de slag gaan met de inzichten die hieruit voortvloeien.”

Verantwoordelijkheid

Samen met de steeds groeiende capaciteiten van AI, komt ook een steeds grotere verantwoordelijkheid, benadrukt Ann. “Bij systemen als ‘Open AI’ en ‘Stable Diffusion’ worden netwerken die taal herkennen, gecombineerd met netwerken die beelden herkennen. Zo kan het netwerk bijvoorbeeld beschrijven wat het ziet (een kat op een stoel) maar kan u ook zelf nieuwe beelden laten aanmaken (maak een stoel met vijf poten). Open AI geeft zijn getraind netwerk niet vrij, Stable Diffusion wel. U kan dus het Open AI-netwerk niet downloaden, onder meer om problemen met intellectual property te vermijden. Zo zal het je geen afbeeldingen van Mickey Mouse laten maken, terwijl je die bij Stable Diffusion gewoon zelf aan het netwerk kan toevoegen.
Maar niet alleen Mickey Mouse, ook bijvoorbeeld kunstmatig gegenereerde beelden van kinderpornografie worden zo mogelijk. Of deep fakes van beroemdheden die u dingen ziet doen of zeggen die ze in werkelijkheid helemaal niet deden of zeiden. Dat laat vragen rijzen waar we nu het antwoord nog niet op kennen, zoals wie verantwoordelijk is voor de output van een AI-systeem.”

In dezelfde trant vielen er ook waarschuwingen te horen voor de manier waarop bestaande data worden ontgonnen voor inzichten. Pakweg Facebook zou een boel geld kunnen verdienen met de verkoop van data over de relatiestatus van zijn gebruikers aan banken. Als die status plots op gescheiden springt, weet elke bankdirecteur immers dat de kans op wanbetaling plots een stuk groter wordt.

Ook bijvoorbeeld over de ethische kwesties van AI zelf is het laatste woord nog lang niet gezegd. Als een zelfrijdende auto bij een ongeval betrokken raakt en moet kiezen tussen het aanrijden van een oudere dame of van een kind, wat is dan de “juiste” keuze?

“Iets” doen met data

Hoe dan ook zal het gebruik van data en AI in de toekomst alleen maar toenemen, daar waren alle deelnemers het over eens. Bij chemiefabrikant Lubrizol anticiperen ze daar al op. “We zijn al een handvol mensen aan het aanwerven die de helft van hun tijd “iets” met data gaan doen”, zegt Group Finance Director EMEA Marc Verthongen. “Wat exact, dat weten we nog niet, maar we durven die investering te doen. Anders blijf je met de klassieke boekhouder zitten en dat profiel zal in de toekomst allicht almaar minder nodig zijn. De financiële afdeling wordt almaar meer business-gerelateerd. Een klassieke factuur boeken kunnen machines even goed als mensen.”

Ann Dooms zelf verwacht voor de toekomst vooral veel van AI in medische toepassingen. “Ons DNA is eigenlijk niks meer dan een combinatie van letters en dus geknipt voor kunstmatige intelligentie”, zegt ze. “Zeker als binnenkort de computerkracht nog exponentieel gaat toenemen via kwantumcomputing. Maar zelfs dan zal de rol van de dokter niet uitgespeeld zijn. AI zal leiden tot betere diagnoses, maar alleen de mens heeft zicht op alle niet-kwantificeerbare factoren die met een ziekte gepaard gaan. Het is meer dan alleen maar die scan of röntgenfoto.”

En zo kon iedereen toch nog naar huis met een geruststellende gedachte.

Deze rondetafel werd mee mogelijk gemaakt dankzij SAP en SAP Concur.