Artefact此前关于 人工智能工作的未来 得出结论认为，重复且单调的任务将通过“代理式人工智能”得到增强，并转变为“代理式监督”。这份新报告《“”代理式监督的未来”, ，深入探讨了 组织应如何做好准备，以监督和管理绩效、安全及战略价值 这些新型智能系统，并最终围绕代理式人工智能的监督机制重塑工作方式。“我们发现，尽管人工智能代理将取代人类完成那些枯燥且重复的任务，但一种新型工作将会出现： a基因监管,说 佛罗伦萨-贝内齐特, ，Data 领域专家合作伙伴，兼任 Artefact 人工智能治理专家。. “监督不应是事后才考虑的，而必须在代理的设计和开发初期就予以融入，” 备注 哈南-瓦赞, Managing Partner 及 Artefact 的生成式人工智能负责人。.
在不断演变的企业人工智能领域，代理系统的兴起标志着一个 关键性转变. AI 代理是由大型语言模型（LLMs）驱动的自主应用程序 具有推理、记忆和行动的能力。. 他们是积极的决策者，能够实时影响业务流程。但自主性伴随着风险，而风险又要求进行有条理的监督。在这个新范式下，, 对技术系统的监督已不再是可有可无的，而是基础性的。.
注： 佛罗伦萨-贝内齐特 和 哈南-瓦赞, 我们的领域专家共同撰写了这份调查报告，并采访了14家企业以及5位Artefact代理产品经理和工程师。 此外，我们还联系了主要的代理式监督服务提供商，包括拥有多年软件监督经验的主要data及AI平台（如谷歌和微软），以及专业初创公司（WB、Giskard、RobustIntelligence等）。.
《代理监督的未来》调查报告的核心见解：从治理原则到运营就绪。.
《代理监督的未来》调查报告的核心见解：从治理原则到运营就绪。.
具有代理能力的AI系统并非传统软件，而是基于概率的。.
:
- 软件开发遵循确定性规则，始终应用相同、不变且正确的逻辑，而人工智能代理则 是概率性的, ，这意味着它们的输出虽然受到输入上下文的强烈影响，但在每次运行时都会有所不同。.
- 它们将自然语言处理能力与 能够自主运用内部工具、API 或 databases 来解决新问题. 这种灵活性使我们在客户支持、运营、人力资源和采购等领域实现了令人印象深刻的价值创造。.
主动部署的核心权衡：价值与风险。.
:
- 传统代码通常只需测试一次，即可放心地部署，, 部署代理时必须考虑到风险, ，并不断进行监测、评估和改进。因此，代理治理的未来在于 大规模的持续监督.
- 必须明确管理这种价值与风险之间的权衡关系. 企业必须明确“价值”在具体情境中的含义（任务成功率、用户参与度、生产力提升），并确定需要控制的风险：幻觉、延迟、偏见、声誉受损或成本超支。.
“监督机制成为在人工智能代理生命周期的每个阶段——包括设计、开发、部署和运行阶段——来调节这种平衡的运作机制，” 弗洛伦斯解释道。.
分三步管理代理监督：观察、评估、行动。.
要实现这种平衡，企业需要围绕三大核心能力建立代理监督：
- 1. 观察： 捕获结构化遥测数据 data：输入、输出、工具调用、错误以及用户反馈。2. 评价： 利用质量指标和风险指标，根据业务定义的目标和控制阈值评估绩效。3. 行动： 上报并处理事件、重新训练模型、调整防护措施，或回滚代理程序更新。.
“这一过程被称为“主动监督”，这与DevOps实践相呼应，但必须根据人工智能的概率性和不断演变的特性进行调整，并将范围从技术团队扩展到业务流程及相关团队，如客户成功、人力资源、法务、运营等。”
这项新研究得出的总体结论是：代理式监督是人工智能的未来。.
Artefact论文《代理式监督的未来》的合著者弗洛伦斯·贝内齐特（Florence Bénézit）在VivaTech 2025展会上，于我们的展位上介绍了这项研究。.
Artefact论文《代理式监督的未来》的合著者弗洛伦斯·贝内齐特（Florence Bénézit）在VivaTech 2025展会上，于我们的展位上介绍了这项研究。.
弗洛伦斯解释说，代理治理早在部署之前就已经开始了：
:
- 从勘探阶段开始，, 业务团队和技术团队必须通力合作 以定义成功标准、识别风险类型并确定评估策略。这种共同设计方法确保了这些方案在技术上非常可靠，并且从一开始就与业务重点保持一致. 如果缺乏这种程度的组织，就很难扩大代理信任的规模。.
- 在设计阶段，团队通常需要 构建“真实数据”data数据集 这些反映了期望的智能体行为。它们对于训练和评估都至关重要。在开发过程中，团队必须 根据多项指标确定“通过/不通过”的放行阈值.
“我们的目标是为……奠定基础” 人工智能代理监督这一新兴职业, ，这是一个横跨业务、技术和治理领域的复合型角色——我们认为它体现了 人工智能时代的工作未来,”弗洛伦斯强调道。.
我们提供了一份实用的指南，其中包含四项建议，旨在帮助企业将理论付诸实践。.
- 从真实项目开始，而不是原型： 将治理工作重点放在用于生产的高价值代理上。构建真实的系统，而不是随意的演示，以便尽早发现运行中的现实问题。.
- 在开发工具时，首先考虑开发人员： 选择能够支持工程工作流的可观测性工具。业务仪表盘固然有用，但开发人员的采用程度对于收集高质量的元数据data至关重要。.
- 明确风险所有权： 确定哪些职能部门拥有哪些风险。谁对安全、隐私、偏见或用户体验下降负责？建立升级路径和签核规则。.
- 将 AgentOps 与 DataOps 相统一： 将代理和 data 管道视为一枚硬币的两面。共同监督 data 质量和代理行为，诊断事故的根本原因。.
“代理治理将迅速发展。但其基础是永恒不变的：清晰、协作和持续学习。及早践行这一原则的企业，不仅能避免代价高昂的失误，还能建立持久的竞争优势。”
Artefact 提供四项服务，旨在协助各组织启动或加速其通用人工智能（Gen AI）和代理式人工智能（Agentic AI）的发展进程。.
Artefact 提供四项服务，旨在协助各组织启动或加速其通用人工智能（Gen AI）和代理式人工智能（Agentic AI）的发展进程。.
阅读Artefact在VivaTech《Hub Institute报告》中的章节
我们的一系列生成式人工智能和智能代理服务均根据每位客户的成熟度水平量身定制，帮助他们快速启动或扩展业务。.
– 课程 #1 | 人工智能战略与组织： 对于刚刚开始涉足人工智能或希望扩大规模的企业而言，这是理想的选择。. 在6至12周内, Artefact 有助于制定清晰的人工智能路线图、运营模式和变革计划，以引导员工参与其中。. – 方案 #2 | 人工智能应用： 对于已经部署了人工智能工具的企业而言，该方案通常通过部署安全的内部 GPT，能够迅速提升工具的使用率和生产力。其目标是： 短短四个月内就能获得快速且可量化的成效。. – 方案 #3 | AI / 代理式工厂与平台： 该方案使人工智能领域的领军企业能够通过设计并推出一项涵盖解决方案开发、平台构建和应用推广的加速计划，从而快速推进业务，并 在第3、第6和第12个月取得可量化的成果。. – 方案 #4 | 基于人工智能的功能转型： 该方案专注于客户服务或运营等具体业务职能，借助 Agentic AI 可显著提升绩效，例如 as >30% 生产率提升 和 交货期缩短幅度最高可达 80%。.
来自 医学写作助理 至 客户服务聊天机器人 和 合成虚拟人物, Artefact的成功应用案例彰显了生成式人工智能解决方案在各行业的广泛应用及其对业务产生的影响。.
欢迎参加将于2025年11月24日、25日和26日在巴黎标志性建筑大皇宫（Grand Palais）举行的Artefact国际Adopt AI峰会。.
欢迎参加将于2025年11月24日、25日和26日在巴黎标志性建筑大皇宫（Grand Palais）举行的Artefact国际Adopt AI峰会。.
十多年来，Artefact 一直处于组织跨行业最大规模人工智能峰会的最前沿。. Adopt AI – 大皇宫 是这段旅程的下一章。随着 25,000名与会者，, 500位演讲嘉宾和250家参展商，Adopt AI绝对是您不容错过的盛会 参与最具创新性的AI讨论。. “CEO舞台”环节，将有30余位来自不同行业的CEO登台亮相。. 我们特别荣幸能在此提前宣布， 赛维尔公司首席执行官兼总裁奥利维尔·拉罗，, 和 福伊特集团总裁兼首席执行官迪尔克·霍克, ，将在Adopt AI大会上发表演讲。.
三大主会场，高管们将在这里分享他们对人工智能的战略愿景。已确认的演讲嘉宾包括：
:
- 穆罕默德·拉希姆博士，集团Data首席官，, 渣打银行
- 宝琳·汤姆森，Managing Director——基础设施基金及Data科学部门负责人，, Ardian
- 伊夫·蒂罗德（Yves Tyrode），首席执行官：数字与支付业务，, BPCE集团
- 艾玛·查尔斯，欧洲市场高级副总裁，, 百时美施贵宝
- 迪奥戈·劳，执行副总裁兼首席信息与数字化官，, 莉莉
- 塞巴斯蒂安·阿尔博拉，Data执行副总裁，负责数字化、IT、战略、研发，, Engie
- 阿兰·贝库莱，副总干事，, ITER
- 菲利普·凯耶尔，战略、研究与技术高级执行副总裁，, 泰雷兹
一系列“大师班”舞台，提供实践性、技术性和行业聚焦的内容。. 千万不要错过这个与全球领袖建立联系并参与其中的难得机会 在七个同时进行的舞台上展开影响深远的讨论，每个舞台均专注于一个主要行业： 健康、金融、工业、奢侈品、旅游、体育和可持续发展
暑假通知 🌞
暑假通知 🌞
由于我们将在8月休刊，下一期《Data文摘》将于月底发布。 九月. 敬请关注我们的 Artefact 的 LinkedIn 页面 在接下来的两周里，我们将分享一系列客户感言，并通过reports回顾今年上半年的关键洞察和案例研究。.
祝大家夏日阅读愉快！
