Cumbre de la IA para las finanzas por Artefact - 17 de septiembre de 2024 - París
Principales conclusiones de la mesa redonda en la que participaron Hugues Even, Director del Grupo Data de BNP Paribas, Matteo Dora, Director Técnico de Giskard, Guillaume Bour, Director de Empresa para EMEA de Mistral AI, Anne-Laure Giret, Directora de Google Cloud AI GTM, EMEA Sur de Google Cloud, y Hanan Ouazan, Socia y Directora de IA Generativa de Artefact.
Modelos lingüísticos de IA que mejoran el servicio al cliente
Este debate pone de relieve el papel transformador de los modelos lingüísticos de la IA en el servicio al cliente, centrándose en sus aplicaciones y retos en el mundo real en diversos sectores, en particular el bancario. La conversación hace hincapié en el despliegue de la IA para automatizar y mejorar las interacciones con los clientes, por ejemplo a través del correo electrónico y los canales de voz, con herramientas que comprenden el contexto, priorizan las tareas y sugieren respuestas, mejorando así la eficiencia y la satisfacción del cliente.
La IA ayuda en el procesamiento del correo electrónico y la voz
Hugues comparte cómo la IA ayuda a procesar los correos electrónicos categorizándolos, priorizándolos y enrutándolos, a la vez que sugiere respuestas para su revisión. Para las interacciones de voz, la IA genera resúmenes posteriores a la llamada, elementos de acción y perspectivas que pueden utilizarse para futuras reuniones. Estas herramientas ayudan a los bancos a mejorar la calidad del servicio analizando el contenido y el tono de las interacciones, yendo más allá de los métodos tradicionales de opinión de los clientes.
La IA agiliza los procesos bancarios clave
La conversación también aborda el papel de la IA en procesos bancarios clave, como las solicitudes de préstamos y la incorporación de clientes. La IA, utilizando modelos lingüísticos y visión por ordenador, ayuda a verificar documentos y a cruzar información para agilizar estos procesos. Los participantes destacan cómo el papel de la IA generativa está evolucionando de simples chatbots con guión a avanzados asistentes conversacionales que gestionan una amplia gama de consultas y ofrecen un servicio más personalizado.
Transición a los asistentes conversacionales impulsados por LLM
Un aspecto clave del debate es la transición hacia asistentes conversacionales impulsados por grandes modelos lingüísticos (LLM), que ofrecen respuestas más dinámicas que los chatbots anteriores. Sin embargo, estos modelos deben ajustarse con precisión a contextos e industrias específicos, lo que requiere ajustes como la adaptación de bajo rango. El debate subraya la importancia de mantener el control sobre estos sistemas de IA, especialmente con data sensibles, y destaca las colaboraciones con proveedores de IA como Mistral para garantizar la seguridad y el rendimiento de data.
Retos de la ampliación de la IA en la producción
El escalado de la IA en la producción plantea retos, como el data governance, el rendimiento y la seguridad. Mantener la eficacia y explicabilidad de los modelos de IA al tiempo que se garantiza la ciberseguridad es esencial para el despliegue a gran escala. El debate señala la necesidad de actualizaciones continuas de los modelos para satisfacer las demandas cambiantes de los clientes y las normativas, y que la educación de los usuarios sobre las herramientas de IA es fundamental para el éxito.
Optimizar el tamaño del modelo para obtener rentabilidad
Para hacer frente a los retos de rendimiento de la IA, Guillaume Bour explica que reducir el tamaño de los modelos manteniendo la precisión y la rentabilidad es clave para la ampliación. También menciona que la combinación de modelos pequeños con flujos de trabajo orquestados puede optimizar el rendimiento, reduciendo los costes sin sacrificar la calidad. La observabilidad y los sistemas de supervisión son cruciales para mantener estos modelos en entornos de producción en tiempo real.
Mitigar la alucinación de la IA mediante pruebas rigurosas
Por último, se discute la cuestión de la “alucinación” de la IA -proporcionar información incorrecta-. Es esencial realizar pruebas rigurosas para evitar este tipo de errores en las interacciones con los clientes. Las colaboraciones entre empresas como BNP y Discard garantizan que los sistemas de IA se prueben a fondo antes de su despliegue para mitigar los riesgos. La supervisión posterior al despliegue también es fundamental para identificar y abordar los problemas a lo largo del tiempo, ya que los cambios en las demandas de los clientes, las normativas y el entorno externo afectan al rendimiento de la IA.

BLOG





