BNP PARIBAS, GISKARD, MISTRAL AI & GOOGLE CLOUD auf der AI for Finance by Artefact - KI-Sprachmodelle für Unternehmen im Kundensupport

Diese Diskussion beleuchtet die transformative Rolle von KI-Sprachmodellen im Kundenservice und konzentriert sich auf ihre realen Anwendungen und Herausforderungen in verschiedenen Branchen, insbesondere im Bankwesen. Im Mittelpunkt des Gesprächs steht der Einsatz von KI zur Automatisierung und Verbesserung von Kundeninteraktionen, z. B. über E-Mail- und Sprachkanäle, mit Tools, die den Kontext verstehen, Aufgaben priorisieren und Antworten vorschlagen und so die Effizienz und Kundenzufriedenheit verbessern.

Hugues berichtet, wie KI bei der Bearbeitung von E-Mails hilft, indem sie diese kategorisiert, nach Prioritäten ordnet und weiterleitet und gleichzeitig Antworten zur Überprüfung vorschlägt. Bei Sprachinteraktionen generiert KI nach dem Gespräch Zusammenfassungen, Aktionspunkte und Erkenntnisse, die für zukünftige Gespräche genutzt werden können. Diese Tools helfen Banken, die Servicequalität zu verbessern, indem sie den Inhalt und den Tonfall von Interaktionen analysieren und damit über die traditionellen Methoden des Kundenfeedbacks hinausgehen.

Das Gespräch befasst sich auch mit der Rolle der KI in wichtigen Bankprozessen wie Kreditanträgen und der Aufnahme von Kunden. Mithilfe von Sprachmodellen und Computer Vision hilft KI bei der Überprüfung von Dokumenten und dem Abgleich von Informationen, um diese Prozesse zu rationalisieren. Die Teilnehmer heben hervor, wie sich die Rolle der generativen KI von einfachen, geskripteten Chatbots zu fortschrittlichen Gesprächsassistenten entwickelt, die eine breite Palette von Anfragen bearbeiten und einen persönlicheren Service bieten.

Eine wichtige Erkenntnis aus der Diskussion ist der Übergang zu Konversationsassistenten, die von großen Sprachmodellen (LLMs) angetrieben werden, die dynamischere Antworten als bisherige Chatbots bieten. Diese Modelle müssen jedoch auf bestimmte Kontexte und Branchen abgestimmt werden, was Anpassungen wie Low-Rank-Adaption erfordert. Die Diskussion unterstreicht, wie wichtig es ist, die Kontrolle über diese KI-Systeme zu behalten, insbesondere bei sensiblen data, und hebt die Zusammenarbeit mit KI-Anbietern wie Mistral hervor, um die Sicherheit und Leistung von data zu gewährleisten.

Die Skalierung von KI in der Produktion bringt Herausforderungen mit sich, wie data governance, Leistung und Sicherheit. Die Aufrechterhaltung der Effizienz und Erklärbarkeit von KI-Modellen bei gleichzeitiger Gewährleistung der Cybersicherheit ist für einen groß angelegten Einsatz unerlässlich. In der Diskussion wird darauf hingewiesen, dass die Modelle laufend aktualisiert werden müssen, um den sich ändernden Anforderungen der Kunden und der Regulierungsbehörden gerecht zu werden, und dass die Schulung der Benutzer über KI-Tools für den Erfolg entscheidend ist.

Um den Herausforderungen der KI-Leistung zu begegnen, erklärt Guillaume Bour, dass die Reduzierung der Modellgröße bei gleichzeitiger Beibehaltung der Genauigkeit und Kosteneffizienz der Schlüssel zur Skalierung ist. Sie erwähnen auch, dass die Kombination kleiner Modelle mit orchestrierten Workflows die Leistung optimieren und die Kosten senken kann, ohne die Qualität zu beeinträchtigen. Beobachtbarkeit und Überwachungssysteme sind entscheidend für die Aufrechterhaltung dieser Modelle in Echtzeit-Produktionsumgebungen.

Schließlich wird auch das Problem der “Halluzinationen” der KI - die Bereitstellung falscher Informationen - diskutiert. Strenge Tests sind unerlässlich, um solche Fehler bei Kundeninteraktionen zu vermeiden. Die Zusammenarbeit zwischen Unternehmen wie BNP und Discard stellt sicher, dass KI-Systeme vor dem Einsatz gründlich getestet werden, um die Risiken zu minimieren. Die Überwachung nach der Einführung ist ebenfalls entscheidend, um Probleme im Laufe der Zeit zu erkennen und zu beheben, da sich Änderungen der Kundenanforderungen, der Vorschriften und des externen Umfelds auf die KI-Leistung auswirken.