AI voor financiële top door Artefact - 17 september 2024 - Parijs

Belangrijkste learnings uit de paneldiscussie met Hugues Even, Group Chief Data Officer bij BNP Paribas, Matteo Dora, CTO bij Giskard, Guillaume Bour, Head of Enterprise EMEA bij Mistral AI, Anne-Laure Giret, Head of Google Cloud AI GTM, EMEA South bij Google Cloud, en Hanan Ouazan, Partner & Generative AI Lead bij Artefact.

AI Taalmodellen voor betere klantenservice

Deze discussie belicht de transformerende rol van AI taalmodellen in klantenservice, waarbij de nadruk ligt op hun toepassingen en uitdagingen in de praktijk in verschillende sectoren, met name het bankwezen. Het gesprek legt de nadruk op de inzet van AI voor het automatiseren en verbeteren van klantinteracties, zoals via e-mail en spraakkanalen, met tools die de context begrijpen, taken prioriteren en reacties suggereren, waardoor de efficiëntie en klanttevredenheid verbeteren.

AI assisteren bij e-mail en stemverwerking

Hugues vertelt hoe AI helpt bij het verwerken van e-mails door ze te categoriseren, te prioriteren en te routeren, terwijl er ook antwoorden worden voorgesteld om te bekijken. Voor spraakinteracties genereert AI samenvattingen van gesprekken, actiepunten en inzichten die gebruikt kunnen worden voor toekomstige vergaderingen. Deze tools helpen banken om de servicekwaliteit te verbeteren door de inhoud en toon van interacties te analyseren, waardoor ze verder gaan dan de traditionele feedbackmethoden voor klanten.

AI stroomlijnen van belangrijke bankprocessen

Het gesprek gaat ook over AI's rol in belangrijke bankprocessen, zoals leningaanvragen en onboarding van klanten. AI Met behulp van taalmodellen en computervisie helpt bij het verifiëren van documenten en het uitvoeren van kruiscontroles om deze processen te stroomlijnen. De deelnemers benadrukken hoe de rol van generatieve AIevolueert van eenvoudige, gescripte chatbots naar geavanceerde conversatieassistenten die een breed scala aan vragen behandelen en meer persoonlijke service bieden.

Overgang naar conversatieassistenten aangedreven door LLM's

Een belangrijke uitkomst van de discussie is de overgang naar conversatieassistenten die worden aangedreven door grote taalmodellen (LLM's), die dynamischere antwoorden bieden dan eerdere chatbots. Deze modellen moeten echter worden afgestemd op specifieke contexten en industrieën, waarvoor aanpassingen zoals low-rank adaptatie nodig zijn. De discussie onderstreept het belang van het behoud van controle over deze AI systemen, vooral met gevoelige data, en benadrukt de samenwerking met AI providers zoals Mistral om data beveiliging en prestaties te garanderen.

Uitdagingen van het schalen van AI in productie

Het schalen van AI in productie brengt uitdagingen met zich mee, zoals data governance, prestaties en beveiliging. Het behoud van de efficiëntie en uitlegbaarheid van AI modellen en het waarborgen van cyberbeveiliging zijn essentieel voor grootschalige implementatie. De discussie wijst op de noodzaak van voortdurende modelupdates om te voldoen aan de veranderende eisen van klanten en regelgevers, en dat gebruikerseducatie over AI tools cruciaal is voor succes.

Modelgrootte optimaliseren voor kostenefficiëntie

Om de prestatie-uitdagingen van AI aan te pakken, legt Guillaume Bour uit dat het verkleinen van modellen met behoud van nauwkeurigheid en kostenefficiëntie de sleutel is tot schaalbaarheid. Ze vermelden ook dat het combineren van kleine modellen met georkestreerde workflows de prestaties kan optimaliseren, waardoor de kosten worden verlaagd zonder dat dit ten koste gaat van de kwaliteit. Waarneembaarheid en monitoringsystemen zijn cruciaal om deze modellen in real-time productieomgevingen te onderhouden.

Verminderen van AI hallucinatie door rigoureus testen

Tot slot wordt de kwestie van AI "hallucinatie" - het verstrekken van onjuiste informatie - besproken. Rigoureus testen is essentieel om dergelijke fouten in klantinteracties te voorkomen. Samenwerkingen tussen bedrijven als BNP en Discard zorgen ervoor dat AI systemen grondig worden getest voordat ze worden ingezet om risico's te beperken. Controle na de uitrol is ook van cruciaal belang om problemen te identificeren en aan te pakken, aangezien veranderingen in de eisen van klanten, regelgeving en de externe omgeving van invloed zijn op de prestaties van AI .