El estudio anterior de Artefact sobre El futuro del trabajo con la IA llegó a la conclusión de que las tareas repetitivas y monótonas se verán potenciadas por la IA agentiva y se transformarán en supervisión agentiva. Este nuevo informe, “”El futuro de la supervisión agencial», analiza en profundidad cómo pueden prepararse las organizaciones para supervisar y gestionar el rendimiento, la seguridad y el valor estratégico de estos nuevos sistemas inteligentes y, con el tiempo, reinventar el trabajo en torno a la supervisión de la IA agentiva. “Hemos constatado que, aunque los agentes de inteligencia artificial sustituirán a los seres humanos en las tareas tediosas y repetitivas, surgirá un nuevo tipo de trabajo: asupervisión genética,” dice Florencia Bénézit, socio experto en Data y gobernanza de la IA en Artefact. “La supervisión no debe ser una cuestión secundaria, sino que debe integrarse desde el principio en el diseño y el desarrollo del agente”,” observaciones Hanan Ouazan, Managing Partner y responsable de IA generativa en Artefact.
En el panorama en constante evolución de la IA empresarial, el auge de los sistemas agentivos supone un cambio decisivo. Los agentes de IA son aplicaciones autónomas que funcionan gracias a modelos de lenguaje a gran escala (LLM) capaz de razonar, recordar y actuar. Son responsables de la toma de decisiones que influyen en los procesos empresariales en tiempo real. Sin embargo, la autonomía conlleva riesgos, y los riesgos implican la necesidad de una supervisión estructurada. En este nuevo paradigma, La supervisión de los sistemas tecnológicos ya no es opcional; es fundamental.
Nota: Florencia Bénézit y Hanan Ouazan, nuestros expertos en la materia, han elaborado conjuntamente esta encuesta y han entrevistado a 14 empresas y a cinco responsables de producto e ingenieros especializados en Artefact. Asimismo, nos hemos puesto en contacto con los principales proveedores de supervisión agencial, entre los que se incluyen las principales plataformas de data e IA con años de experiencia en supervisión de software (como Google y Microsoft), así como empresas emergentes especializadas (WB, Giskard, RobustIntelligence…).
Conclusiones clave de la encuesta “El futuro de la supervisión agencial”: desde los principios de gobernanza hasta la preparación operativa.
Conclusiones clave de la encuesta “El futuro de la supervisión agencial”: desde los principios de gobernanza hasta la preparación operativa.
Los sistemas de IA agencial no son software tradicional, sino que son probabilísticos.
:
- La producción de software se rige por reglas deterministas, que aplican constantemente la misma lógica, invariable y correcta, mientras que los agentes de IA son probabilísticas, lo que significa que sus resultados, aunque están muy influidos por el contexto de entrada, varían en cada ejecución.
- Incorporan funciones de lenguaje natural con la capacidad de actuar de forma autónoma en el ámbito de las herramientas internas, las API o las bases de datos data para resolver nuevos problemas. Esta flexibilidad permite generar un valor añadido considerable en los ámbitos de la atención al cliente, las operaciones, los recursos humanos y las compras.
La disyuntiva fundamental del despliegue de la agencia: valor frente a riesgo.
:
- Mientras que el código tradicional se prueba una sola vez y se implementa con confianza, Los agentes deben desplegarse teniendo en cuenta los riesgos, sometida a un seguimiento, una evaluación y una mejora constantes. El futuro de la gobernanza basada en agentes consiste, por lo tanto, en supervisión continua a gran escala.
- Esta relación entre valor y riesgo debe gestionarse de forma explícita. Las empresas deben definir qué se entiende por “valor” en cada contexto (índice de éxito de las tareas, implicación de los usuarios, aumento de la productividad), así como qué riesgos deben controlarse: alucinaciones, latencia, sesgos, daños a la reputación o sobrecostes.
“La supervisión se convierte en el mecanismo operativo que ajusta este equilibrio en cada etapa del ciclo de vida del agente de IA: en las fases de diseño, desarrollo, implementación y ejecución”,” explica Florence.
Cómo gestionar la supervisión agencial en tres pasos: observar, evaluar y actuar.
Para lograr este equilibrio, las empresas necesitan construir una supervisión agéntica en torno a tres capacidades básicas:
- 1. Observación: Recopile datos de telemetría estructurados data: entradas, salidas, llamadas a herramientas, errores y comentarios de los usuarios. 2. Evaluación: Utilice métricas de calidad e indicadores de riesgo para evaluar el rendimiento en relación con los objetivos definidos por la empresa y los umbrales de control. 3. Acción: Elevar y gestionar incidencias, volver a entrenar modelos, ajustar los límites de seguridad o revertir las actualizaciones de los agentes.
“Este proceso, denominado “supervisión activa”, se inspira en las prácticas de DevOps, pero debe adaptarse a la naturaleza probabilística y en constante evolución de la IA, y ampliarse más allá de los equipos técnicos para abarcar los procesos empresariales y equipos como Éxito del Cliente, Recursos Humanos, Asuntos Jurídicos, Operaciones, etc.”.”
La conclusión general de este nuevo estudio es que la supervisión agencial es el futuro de la IA.
Florence Bénézit, coautora del artículo «The Future of Agentic Supervision» de Artefact, presentó el estudio en nuestro stand de VivaTech 2025.
Florence Bénézit, coautora del artículo «The Future of Agentic Supervision» de Artefact, presentó el estudio en nuestro stand de VivaTech 2025.
Florence explica que la gobernanza agencial comienza mucho antes de la implementación:
:
- Desde la fase de exploración en adelante, Los equipos comerciales y técnicos deben colaborar para definir los criterios de éxito, identificar los tipos de riesgo y determinar la estrategia de evaluación. Este enfoque de diseño colaborativo garantiza que unEstos proyectos son técnicamente sólidos y están en consonancia con las prioridades empresariales desde el principio. Sin este nivel de organización, resultará difícil ampliar la confianza en los agentes.
- En la fase de diseño, los equipos suelen necesitar para crear conjuntos de datos de “verdad de referencia” data que reflejen el comportamiento deseado del agente. Estos resultan esenciales tanto para el entrenamiento como para la evaluación. Durante el desarrollo, los equipos deben determinar los umbrales de aprobación o rechazo en función de múltiples métricas.
“Nuestro objetivo es sentar las bases para la nueva profesión de supervisor de agentes de IA, una función híbrida que abarca los ámbitos empresarial, tecnológico y de gobernanza, y que, en nuestra opinión, representa El futuro del trabajo con la inteligencia artificial,”, subraya Florence.
Ofrecemos una guía práctica con cuatro recomendaciones para ayudar a las empresas a pasar de la teoría a la práctica.
- Empiece con proyectos reales, no con prototipos: Concentre los esfuerzos de gobernanza en los agentes de alto valor destinados a la producción. Construya sistemas reales, no demos desechables, para descubrir pronto las realidades operativas.
- Piense primero en el desarrollador a la hora de crear herramientas: Elija herramientas de observabilidad que se adapten a los flujos de trabajo de ingeniería. Los paneles de control empresariales son útiles, pero la aceptación por parte de los desarrolladores es fundamental para recopilar datos de calidad metadata.
- Aclare la propiedad del riesgo: Defina qué funciones son responsables de qué riesgos. ¿Quién es responsable de la seguridad, la privacidad, la parcialidad o la degradación de la UX? Establezca vías de escalado y reglas de aprobación.
- Unifique AgentOps con DataOps: Trate a los agentes y a los conductos data como dos caras de la misma moneda. Supervise conjuntamente la calidad data y el comportamiento de los agentes para diagnosticar las causas raíz de los incidentes.
“La gestión de agentes evolucionará rápidamente. Sin embargo, sus fundamentos son atemporales: claridad, colaboración y aprendizaje continuo. Las empresas que adopten esta disciplina desde el principio no solo evitarán errores costosos, sino que también se forjarán una ventaja competitiva duradera”.”
Four Artefact ofrece su apoyo a las organizaciones a la hora de iniciar o acelerar su transición hacia la IA general y la IA agentiva.
Four Artefact ofrece su apoyo a las organizaciones a la hora de iniciar o acelerar su transición hacia la IA general y la IA agentiva.
Lea el capítulo dedicado a Artefact en el informe del Hub Institute de VivaTech
Nuestra gama de servicios de IA generativa e IA agentiva se adapta al nivel de madurez de cada cliente, lo que les permite ponerse en marcha o ampliar su actividad con rapidez.
– Oferta #1 | Estrategia y organización en materia de IA: La oferta ideal para empresas que se inician en el ámbito de la IA o que desean ampliar su alcance. En un plazo de 6 a 12 semanas, Artefact contribuye a definir una hoja de ruta clara en materia de IA, un modelo operativo y un plan de cambio para involucrar a los empleados. – Oferta #2 | Adopción de la IA: Para las empresas que ya cuentan con herramientas de IA, esta oferta potencia rápidamente el uso y el aumento de la productividad, a menudo mediante la implementación de GPT internos seguros. El objetivo: resultados rápidos y cuantificables en tan solo cuatro meses. – Oferta #3 | IA / Fábrica y plataforma «Agentic»: Esta oferta permite a los líderes en IA actuar con rapidez mediante el diseño y la puesta en marcha de un programa de aceleración que abarca el desarrollo de soluciones, la creación de plataformas y su adopción, con logros cuantificables a los 3, 6 y 12 meses. – Oferta #4 | Inteligencia artificial para la transformación funcional: Centrada en funciones empresariales específicas, como la atención al cliente o las operaciones, esta oferta aporta importantes mejoras en el rendimiento gracias a Agentic AI, tales como como >30% de aumento de la productividad y una reducción del plazo de entrega de hasta 80%.
En auxiliares de redacción médica a chatbots de atención al cliente y personajes ficticios, Los casos de éxito de Artefact ponen de manifiesto el alcance y el impacto empresarial de las soluciones de IA general en todos los sectores.
Acompáñenos en la Cumbre Internacional Adopt AI de Artefact, que se celebrará en el emblemático Grand Palais de París los días 24, 25 y 26 de noviembre de 2025.
Acompáñenos en la Cumbre Internacional Adopt AI de Artefact, que se celebrará en el emblemático Grand Palais de París los días 24, 25 y 26 de noviembre de 2025.
Artefact lleva más de una década a la vanguardia de la organización de las mayores cumbres sobre inteligencia artificial en todos los sectores. Adopt AI – Grand Palais es el siguiente capítulo de este viaje. Con 25 000 asistentes, Con 500 ponentes y 250 expositores, Adopt AI es la cita ineludible para los debates más innovadores sobre la inteligencia artificial. El «CEO Stage», con la participación de más de 30 directores generales de distintos sectores. Nos sentimos especialmente honrados de poder anunciar ya que Olivier Laureau, director general y presidente de Servier, y Dirk Hoke, presidente y director ejecutivo del Grupo Voith, dará una charla en Adopt AI.
Tres escenarios principales, en los que altos directivos compartirán sus visiones estratégicas sobre la inteligencia artificial. Entre los ponentes ya confirmados se encuentran:
:
- El Dr. Mohammed Rahim, director general del Grupo Data, Standard Chartered
- Pauline Thomson, Managing Director – Fondos de Infraestructuras y directora de Data Science, Ardian
- Yves Tyrode, director ejecutivo de Digital y Pagos, Grupo BPCE
- Emma Charles, vicepresidenta sénior de Mercados Europeos, Bristol Myers Squibb
- Diogo Rau, vicepresidente ejecutivo y director de Información y Transformación Digital, Lilly
- Sébastien Arbola, vicepresidente ejecutivo de Data, Digital, TI, Estrategia, I+i, Engie
- Alain Becoulet, subdirector general, ITER
- Philippe Keryer, vicepresidente ejecutivo de Estrategia, Investigación y Tecnología, Thales
Una serie de sesiones magistrales, con contenidos prácticos, técnicos y centrados en el sector. No se pierda esta oportunidad única de establecer contacto con líderes mundiales y participar en debates de gran repercusión en siete escenarios simultáneos dedicados a todos los sectores principales: Salud, finanzas, industria, sector del lujo, viajes, deporte y sostenibilidad
Aviso sobre las vacaciones de verano 🌞
Aviso sobre las vacaciones de verano 🌞
Dado que nos tomamos un descanso en agosto, el próximo resumen de Data se publicará a finales de septiembre. No se pierdan nuestras Página de LinkedIn de Artefact Durante las próximas dos semanas, compartiremos una serie de testimonios de clientes y reports para resumir las ideas clave y los casos prácticos de la primera mitad del año.
¡Que disfruten de la lectura este verano!
