BNP PARIBAS, GISKARD, MISTRAL AI & GOOGLE CLOUD bij AI for Finance door Artefact - AI-taalmodellen voor bedrijven bij klantenservice

Deze discussie belicht de transformerende rol van AI-taalmodellen in de klantenservice, waarbij de nadruk ligt op hun echte toepassingen en uitdagingen in verschillende sectoren, met name het bankwezen. Het gesprek legt de nadruk op de inzet van AI voor het automatiseren en verbeteren van klantinteracties, zoals via e-mail en spraakkanalen, met tools die de context begrijpen, taken prioriteren en antwoorden voorstellen, waardoor de efficiëntie en klanttevredenheid verbeteren.

Hugues vertelt hoe AI helpt bij het verwerken van e-mails door ze te categoriseren, te prioriteren en te routeren, terwijl er ook antwoorden worden voorgesteld om na te kijken. Bij steminteracties genereert AI samenvattingen van gesprekken, actiepunten en inzichten die gebruikt kunnen worden voor toekomstige vergaderingen. Deze tools helpen banken om de servicekwaliteit te verbeteren door de inhoud en toon van interacties te analyseren, waardoor ze verder gaan dan de traditionele feedbackmethoden voor klanten.

Het gesprek gaat ook over de rol van AI in belangrijke bankprocessen, zoals kredietaanvragen en onboarding van klanten. Met behulp van taalmodellen en computervisie helpt AI bij het verifiëren van documenten en het uitvoeren van kruiscontroles om deze processen te stroomlijnen. De deelnemers benadrukken hoe de rol van generatieve AI zich ontwikkelt van eenvoudige, gescripte chatbots tot geavanceerde conversatieassistenten die een breed scala aan vragen behandelen en meer persoonlijke service bieden.

Een belangrijke uitkomst van de discussie is de overgang naar conversatieassistenten die worden aangedreven door grote taalmodellen (LLM's), die dynamischere antwoorden bieden dan eerdere chatbots. Deze modellen moeten echter worden afgestemd op specifieke contexten en industrieën, waarvoor aanpassingen zoals low-rank adaptatie nodig zijn. De discussie benadrukt hoe belangrijk het is om controle te houden over deze AI-systemen, vooral bij gevoelige data, en benadrukt de samenwerking met AI-aanbieders zoals Mistral om de veiligheid en prestaties van data te garanderen.

Het schalen van AI in productie brengt uitdagingen met zich mee, zoals data governance, prestaties en beveiliging. Het handhaven van de efficiëntie en verklaarbaarheid van AI-modellen en het waarborgen van cyberbeveiliging zijn essentieel voor grootschalige inzet. De discussie wijst op de noodzaak van voortdurende modelupdates om te voldoen aan de veranderende eisen van klanten en regelgevers, en dat gebruikerseducatie over AI-tools cruciaal is voor succes.

Om de uitdagingen op het gebied van AI-prestaties aan te pakken, legt Guillaume Bour uit dat het verkleinen van modellen met behoud van nauwkeurigheid en kostenefficiëntie de sleutel is tot schaalbaarheid. Ze geven ook aan dat het combineren van kleine modellen met georkestreerde workflows de prestaties kan optimaliseren, waardoor de kosten dalen zonder dat dit ten koste gaat van de kwaliteit. Waarneembaarheid en monitoringsystemen zijn cruciaal om deze modellen in real-time productieomgevingen te onderhouden.

Tot slot wordt het probleem van AI “hallucinatie” - het verstrekken van onjuiste informatie - besproken. Rigoureus testen is essentieel om dergelijke fouten in klantinteracties te voorkomen. Samenwerkingen tussen bedrijven als BNP en Discard zorgen ervoor dat AI-systemen grondig worden getest voordat ze worden ingezet om de risico's te beperken. Controle na de implementatie is ook van cruciaal belang om problemen te identificeren en aan te pakken, aangezien veranderingen in de eisen van klanten, regelgeving en de externe omgeving de prestaties van AI beïnvloeden.