BNP PARIBAS, GISKARD, MISTRAL AI & GOOGLE CLOUD à AI for Finance by Artefact - Modèles de langage d'IA pour les entreprises dans le domaine du support client

Cette discussion met en lumière le rôle transformateur des modèles de langage de l'IA dans le service à la clientèle, en se concentrant sur leurs applications et défis réels dans diverses industries, en particulier dans le secteur bancaire. La conversation met l'accent sur le déploiement de l'IA pour automatiser et améliorer les interactions avec les clients, par exemple par le biais du courrier électronique et des canaux vocaux, grâce à des outils qui comprennent le contexte, hiérarchisent les tâches et suggèrent des réponses, améliorant ainsi l'efficacité et la satisfaction des clients.

Hugues explique comment l'IA aide à traiter les courriels en les classant, en les hiérarchisant et en les acheminant, tout en suggérant des réponses à examiner. Pour les interactions vocales, l'IA génère des résumés après l'appel, des actions à entreprendre et des informations qui peuvent être utilisées lors de réunions ultérieures. Ces outils aident les banques à améliorer la qualité du service en analysant le contenu et le ton des interactions, allant ainsi au-delà des méthodes traditionnelles de retour d'information sur les clients.

La conversation porte également sur le rôle de l'IA dans les processus bancaires clés, tels que les demandes de prêt et l'accueil des clients. L'IA, qui utilise des modèles de langage et la vision par ordinateur, aide à vérifier les documents et à recouper les informations afin de rationaliser ces processus. Les participants soulignent l'évolution du rôle de l'IA générative, qui passe de simples chatbots scénarisés à des assistants conversationnels avancés qui traitent un large éventail de demandes et offrent un service plus personnalisé.

L'un des principaux enseignements de la discussion est la transition vers des assistants conversationnels alimentés par de grands modèles de langage (LLM), qui offrent des réponses plus dynamiques que les précédents chatbots. Toutefois, ces modèles doivent être affinés en fonction de contextes et de secteurs spécifiques, ce qui nécessite des ajustements tels que l'adaptation de rangs inférieurs. La discussion souligne l'importance de maintenir le contrôle sur ces systèmes d'IA, en particulier avec des données sensibles data, et met en évidence les collaborations avec des fournisseurs d'IA tels que Mistral pour assurer la sécurité et la performance de data .

La mise à l'échelle de l'IA dans la production pose des défis, tels que data la gouvernance, la performance et la sécurité. Le maintien de l'efficacité et de l'explicabilité des modèles d'IA, tout en garantissant la cybersécurité, est essentiel pour un déploiement à grande échelle. La discussion souligne la nécessité d'une mise à jour continue des modèles pour répondre à l'évolution des demandes des clients et de la réglementation, et que la formation des utilisateurs aux outils d'IA est essentielle à la réussite.

Pour relever les défis liés aux performances de l'IA, Guillaume Bour explique que la réduction de la taille des modèles tout en maintenant la précision et la rentabilité est la clé de la mise à l'échelle. Il mentionne également que la combinaison de petits modèles avec des flux de travail orchestrés peut optimiser les performances, en réduisant les coûts sans sacrifier la qualité. L'observabilité et les systèmes de surveillance sont essentiels pour maintenir ces modèles dans des environnements de production en temps réel.

Enfin, la question de l'"hallucination" de l'IA, qui consiste à fournir des informations incorrectes, est abordée. Des tests rigoureux sont essentiels pour éviter de telles erreurs dans les interactions avec les clients. Les collaborations entre des entreprises comme BNP et Discard garantissent que les systèmes d'IA sont testés en profondeur avant d'être déployés afin d'atténuer les risques. Le suivi post-déploiement est également essentiel pour identifier et résoudre les problèmes au fil du temps, car les changements dans les demandes des clients, les réglementations et l'environnement externe affectent les performances de l'IA.