IA generativa: las empresas se enfrentan al reto de la industrialización

“La adopción del artificial intelligence generativo dista mucho de ser uniforme entre las empresas francesas. El tamaño sigue siendo un factor determinante. Pero la mayoría de los grandes grupos han tomado medidas (estrategia, PdC, etc.); sólo unos pocos siguen rezagados hoy en día.”

Hanan Ouazan, Responsable de IA Generativa en Artefact

Por el contrario, las VSE y las PYME se muestran más indecisas. “No todas las organizaciones están en la misma onda”, señala Hanan. “Las grandes empresas son las primeras en ocuparse del tema. Pero eso no significa que los ‘grandes’ hayan domado con éxito la tecnología”.”

“Hace un año, ya habíamos previsto la principal dificultad de los proyectos de IA generativa, a saber, su industrialización. [...] Hace unos años, una PoC en artificial intelligence [clásica] llevaba de tres a cuatro meses. Para GenAI, dos o tres semanas pueden bastar. La industrialización, por otro lado, es una historia completamente diferente. Las empresas se están dando cuenta de las limitaciones de las iniciativas PoC”.”

A esto se añade el problema de la adopción, especialmente para las soluciones de ”IA incorporada” como la Copilotos. El uso no es un hecho. Es más, el retorno de la inversión de estas herramientas aún está por determinar.
Las soluciones internas, es decir, “hechas en lugar de “compradas”, tampoco son inmunes a los problemas de adopción.

A pesar de estos obstáculos, algunos sectores están demostrando su dinamismo en lo que respecta a la IA generativa, entre ellos el comercio minorista y los artículos de lujo. Aunque, para este último, el progreso ha sido menor de lo esperado inicialmente, según el especialista en GenAI de Artefact. Se dice que la banca y la sanidad van más rezagadas, pero esto se debe en gran medida a cloud y a cuestiones de cumplimiento.

El progreso a dos velocidades también puede observarse a nivel sectorial. Según Hanan, la industria va por delante en la carrera por la adopción.

Pero incluso entre los actores más maduros, la industrialización y la ampliación (en términos de adopción y tecnología) siguen siendo obstáculos. Los casos de uso se centran en la generación mejorada por recuperación (RAG) para la recuperación de documentos en “bases data frecuentemente descuidadas”.”

La indexación de contenidos se dirige tanto a aplicaciones internas (para la productividad) como externas (a través de interfaces conversacionales). Hanan cita el ejemplo de un fabricante implicado en un proyecto para hacer accesible su catálogo de productos a los clientes en línea, a través de un chatbot.

En el comercio minorista, la IA generativa se utiliza para replantear la búsqueda. La búsqueda 2.0, basada en GenAI, transformaría la experiencia de búsqueda a través de la expresión de una necesidad.

Sin nombrar al minorista, Artefact está colaborando en el diseño de una solución basada en la búsqueda intencionada. “Mañana, la búsqueda formará parte de una lógica de experiencia”, predice el líder de la IA generativa.

Una tercera categoría de casos de uso es la automatización. Esto incluye el análisis de mensajes y transcripciones de los centros de llamadas de los distribuidores para identificar irritantes o problemas.

“Recogemos todas las llamadas, las transcribimos y luego las analizamos para crear un cuadro de mando. Esta vista nos permite ver, por ejemplo, que 3.000 llamadas son sobre un producto concreto que los clientes piensan que es más pequeño que la imagen de la ficha del producto. Se puede bajar hasta ese nivel de detalle”.”

Anteriormente, este análisis de sentimientos no era suficientemente eficaz. Ahora puede incluso detectar la ironía.

La automatización también abarca aplicaciones como el análisis de tendencias en las redes sociales o la captura en tiempo real data para el back-office de banca y seguros.

La cuarta familia es la creatividad. “Esta área está menos avanzada de lo que esperaba, pero está empezando a despegar”, señala Hanan. Artefact trabaja con clientes para automatizar el marketing directo, como la personalización (“contextualización”) de mensajes SMS para generar suscripciones basadas en criterios como el dispositivo del destinatario.

También está surgiendo la generación de imágenes para publicidad. Sin embargo, estos usos se ven obstaculizados por la inseguridad jurídica que rodea a los derechos de autor y la formación data de las IAs generadoras de imágenes. Las garantías legales prometidas por algunos editores, entre ellos Adobe, podrían eliminar las barreras en este ámbito.

Las aplicaciones de la IA generativa están ya bien formalizadas. Sin embargo, es necesario matizar el impacto en términos de transformación real, ya que pocos proyectos están en producción y aún menos son accesibles a los usuarios finales.

“Hay abundancia de herramientas seguras del tipo GPT. Pero no es lo más difícil de desarrollar. Es más, como las aplicaciones son internas, los riesgos son limitados”.”

Para Hanan Ouazan, la causa de esta evaluación de 2024 está clara: la complejidad de la industrialización. Hay varias razones para ello, entre las que no es la menor el coste: las tarifas de los usuarios pueden aumentar rápidamente.

Sin embargo, no todas las empresas han previsto el retorno de la inversión de sus casos de uso. El consumo de LLM genera gastos que superan con creces los ingresos, tanto si se han previsto como si no. Y aunque el precio por uso de estas soluciones ha bajado significativamente en el último año, hacen que las aplicaciones sean más complejas y difíciles de mantener a lo largo del tiempo.

Este problema de costes puede abordarse con una “lógica de optimización” para reducir el coste de una conversación de chatbot, por ejemplo. Un chat se factura en función del tamaño de la pregunta y la respuesta. Y cada nueva pregunta se añade al historial de la conversación, aumentando el coste total de cada consulta.

“Para un cliente industrial, supervisamos cada interacción con el chatbot. Esto nos permite medir los costes y las causas. Por ejemplo, puede ser que el chatbot tenga dificultades para identificar un producto, lo que provoca que se multipliquen los intercambios. La supervisión es esencial para tomar medidas correctivas”.”

La experiencia del usuario también es un parámetro crítico. Para garantizarlo, la latencia es importante, pero tiene un coste. En Azure, puede ser necesario suscribirse a Provisioned Throughput Units (PTU), “recursos gestionados dedicados y caros”.”

Hanan Ouazan también cita la calidad como un reto para la industrialización. Medir y supervisar la calidad significa “poner en marcha los elementos de evaluación adecuados [...] En determinadas vías sensibles para el usuario, desplegamos una IA cuya función es validar la respuesta de otra IA. Los procesos de evaluación en tiempo real garantizan el mantenimiento de la calidad de las respuestas de la IA generativa”, explica. “También integramos bucles de retroalimentación que aprovechan las respuestas de los usuarios para mejorar los resultados”.”

La industrialización acaba encontrando el obstáculo humano. El éxito en esta fase requiere cambios en los procesos. Por ejemplo, pasar de un chatbot tradicional a una versión basada en IA generativa cambia la profesión de atención al cliente.

“Es necesario apoyar este cambio, especialmente en el proceso de validación de las respuestas del chatbot. Parte de la conversación puede confiarse a una IA para su validación. Y cuando intervienen humanos, es mejor ayudarles para reducir el tiempo de procesamiento. Y cuando un humano anota, la IA necesita aprender para iniciar un ciclo virtuoso”.”

Hanan también pide que se apoye la adopción por parte de los usuarios y se tenga en cuenta su experiencia. “La adopción no debe ser dolorosa. Este es el enfoque Artefact aplicado en un proyecto de mejora de la calidad data en un producto database para un fabricante. Los individuos no deberían tener que adaptarse a la IA generativa. Es la IA la que debe adaptarse a ellos, sobre todo a su forma de trabajar”.”

Por ejemplo, Artefact se replanteó su solución de generación de fichas de producto data, que originalmente se había diseñado para integrarse directamente en el PIM, una herramienta poco apreciada por los empleados del proyecto citado.

“Nuestro método para los proyectos de IA generativa consiste en seleccionar una empresa e identificar sus tareas diarias para distinguir aquellas para las que la IA sustituirá al ser humano o modificará la herramienta. El reto es automatizar lo que se puede automatizar y lo que es difícil para el trabajo, y aumentar lo que se puede aumentar en condiciones de trabajo humano. Y esto no puede hacerse sin interactuar con el usuario objetivo. De lo contrario, la adopción será nula.”

¿Y la formación rápida? Para Hanan, todo gira en torno al usuario. Artefact forma a los empleados en el método CRAFT (Contexto, Función, Acción, Formato, Público objetivo), que define el uso correcto de la IA. En el caso de los usuarios maduros, es posible formarlos en el funcionamiento de los modelos y las herramientas que los integran. Sin embargo, algunas poblaciones siguen acostumbradas al uso de palabras clave.

La empresa está formando a sus empleados sobre la posibilidad de realizar consultas en lenguaje natural. También ha introducido la reformulación. Cuando se introducen palabras clave (código puk), la herramienta reformula: “¿Está buscando su código puk?”.”

“Hay un control deslizante y debe ajustarse en función de la población a la que se destine la herramienta. Pero creo que a medida que mejoren las capacidades de las soluciones de IA generativa, con el tiempo no será necesario indicarlo”, aclara Hanan.

En 2024, hay dos áreas principales de atención en el campo de la IA generativa. La primera se refiere a adopción, identificando los cambios en las ocupaciones, carreras y competencias.

El segundo es ampliación. Esto se está poniendo a prueba a dos niveles: la gobernanza (priorización de las necesidades, retorno de la inversión y dirección de las iniciativas) y la plataforma GenAI.

Hanan observa un aumento del número de GAR, un fenómeno impulsado por las numerosas PdC que se están llevando a cabo. Como resultado, las empresas tendrán que racionalizar los componentes utilizados en sus experimentos.

“Mañana tendremos que pensar en RAG como un producto data. Tiene un lugar como producto en la empresa, al igual que el LLM tiene un lugar como producto.

“Mucha gente pensaba que la GenAI era algo mágico que les liberaría de las limitaciones del pasado. En realidad, la GenAI trae aún más limitaciones”, advierte el experto de Artefact.

Esta evolución forma parte de un continuo. Tras DevOps, y después MLOps para tratar específicamente la IA, ahora está surgiendo LLMOps. “Las salvaguardas definidas con MLOps siguen siendo pertinentes. Pero hay que completarlas para tener en cuenta los costes, las alucinaciones y la dimensión generativa de los modelos”, concluye Hanan.