BNP PARIBAS, GISKARD, MISTRAL AI & GOOGLE CLOUD na AI for Finance by Artefact - Modelos de linguagem de IA para empresas em todo o suporte ao cliente

Esta discussão destaca o papel transformador dos modelos de linguagem de IA no atendimento ao cliente, com foco em suas aplicações e desafios reais em vários setores, especialmente o bancário. A conversa enfatiza a implantação da IA para automatizar e aprimorar as interações com o cliente, como por meio de canais de e-mail e voz, com ferramentas que entendem o contexto, priorizam tarefas e sugerem respostas, melhorando assim a eficiência e a satisfação do cliente.

Hugues compartilha como a IA auxilia no processamento de e-mails, categorizando, priorizando e encaminhando-os, além de sugerir respostas para revisão. Para interações de voz, a IA gera resumos pós-chamada, itens de ação e insights que podem ser usados em reuniões futuras. Essas ferramentas ajudam os bancos a melhorar a qualidade do serviço, analisando o conteúdo e o tom das interações, indo além dos métodos tradicionais de feedback do cliente.

A conversa também aborda o papel da IA nos principais processos bancários, como pedidos de empréstimo e integração de clientes. A IA, usando modelos de linguagem e visão computacional, ajuda a verificar documentos e a cruzar informações para simplificar esses processos. Os participantes destacam como a função da IA generativa está evoluindo de chatbots simples e com scripts para assistentes de conversação avançados que lidam com uma ampla gama de consultas e oferecem um serviço mais personalizado.

Uma das principais conclusões da discussão é a transição para assistentes de conversação alimentados por grandes modelos de linguagem (LLMs), que oferecem respostas mais dinâmicas do que os chatbots anteriores. No entanto, esses modelos precisam ser ajustados para contextos e setores específicos, exigindo ajustes como a adaptação de baixo nível. A discussão ressalta a importância de manter o controle sobre esses sistemas de IA, especialmente com o data sensível, e destaca as colaborações com provedores de IA como a Mistral para garantir a segurança e o desempenho do data.

O dimensionamento da IA na produção apresenta desafios, como data governance, desempenho e segurança. Manter a eficiência e a explicabilidade dos modelos de IA e, ao mesmo tempo, garantir a segurança cibernética são essenciais para a implantação em grande escala. A discussão observa a necessidade de atualizações contínuas do modelo para atender às crescentes demandas regulatórias e dos clientes, e que a educação do usuário sobre as ferramentas de IA é fundamental para o sucesso.

Para enfrentar os desafios de desempenho da IA, Guillaume Bour explica que reduzir o tamanho do modelo e, ao mesmo tempo, manter a precisão e a relação custo-benefício é fundamental para o dimensionamento. Eles também mencionam que a combinação de modelos pequenos com fluxos de trabalho orquestrados pode otimizar o desempenho, reduzindo os custos sem sacrificar a qualidade. A observabilidade e os sistemas de monitoramento são cruciais para manter esses modelos em ambientes de produção em tempo real.

Por fim, é discutida a questão da “alucinação” da IA, que fornece informações incorretas. Testes rigorosos são essenciais para evitar esses erros nas interações com os clientes. As colaborações entre empresas como o BNP e a Discard garantem que os sistemas de IA sejam exaustivamente testados antes da implementação para reduzir os riscos. O monitoramento pós-implantação também é fundamental para identificar e resolver problemas ao longo do tempo, pois as mudanças nas demandas dos clientes, nas regulamentações e no ambiente externo afetam o desempenho da IA.