《The Bridge》——数据领袖系列
Naaia首席执行官兼联合创始人娜塔莉·贝斯莱（Nathalie Beslay）与记者、数据可视化公司Dataveyes和Modality的首席执行官卡罗琳·古拉尔（Caroline Goulard）会面，共同探讨了即将于4月22日在《欧盟公报》上公布并生效的《人工智能法案》。 这场在Artefact 的The Bridge空间举行的45分钟访谈，深入探讨了该法案的各个方面。该法案旨在确保安全并保障基本权利，同时推动创新。
娜塔莉·贝斯莱是 Naaia的首席执行官兼联合创始人，该公司致力于为人工智能行业提供合规与风险管理解决方案。 娜塔莉自2004年起执业律师，专注于健康与美容行业。她曾领导塞维利亚前瞻性技术研究所（Seville Institute for Prospective Technological Studies）关于新技术在健康领域应用所面临挑战与风险的项目，因此在探讨监管问题方面具备卓越的专业资质。此外，她还曾担任法国卫生国务秘书在生物伦理问题上的技术顾问，并曾任一家电子健康解决方案运营商的总法律顾问。
您的背景对您理解当前围绕人工智能的各种问题有何帮助？
无论是在医疗保健领域还是人工智能领域，人们都面临着监管限制的挑战。关键在于将限制转化为机遇。对医疗保健产品监管框架的理解，帮助我认清了新的人工智能监管框架所涉及的利害关系和风险，因为它的构建方式与医疗保健产品的监管框架完全一致：其根本目标基本上都是保障用户和产品受益者的安全。
所以人工智能的监管方式和药品一样吗？
《人工智能法案》旨在作为一项 横向产品监管。《人工智能法案》旨在作为一项横向产品监管。这意味着该法案适用于任何类型的公司，无论其规模大小，亦不论是私营还是公营。虽然某些领域（如军事领域）存在例外，但该法案本质上是一项产品监管，其概念和义务类型与其他产品监管类似。
请详细介绍一下《人工智能法案》。企业如何从这项法规中获得附加价值？
在长达400页的复杂条文背后，《人工智能法案》本质上是一个风险管理体系、质量保证体系，以及相关文件、技术文档和使用说明。关于监管门槛——即当一项法规过于严格，反而造成负担而非实现预期目标时——已有诸多讨论。但研究表明， 如果企业高度数字化，监管将有助于它们发展。
要实现这一目标，企业必须积极拥抱《人工智能法案》，将其纳入考量，并从设计之初就将法案规定的义务融入自身流程。最好的做法是这样说： “我要践行价值导向的合规，我要审视合规能为我的产品带来什么，进而为我的客户带来什么。”
人工智能组件并非总是由企业自主研发。欧洲企业是否需要从符合欧洲标准的供应商处采购人工智能技术？
由于《人工智能法案》是一项产品法规，它将根据您是供应商、分销商还是部署方，对人工智能供应链施加不同的义务。 根据您是自行制造、购买现成产品，还是使用模型并将其转化为人工智能系统，各阶段的要求将有所不同。供应商需证明产品符合规定并提供技术文件；进行定制化的参与者不仅需证明其尊重供应商提供的内容，还需证明任何新增层 符合规范、无偏见、尊重版权、质量合格，并使用具有代表性的数据。
对于那些担心这会让欧洲落后于美国或中国的人，你会怎么说？
《人工智能法案》的原始文本已有所演变，部分原因在于那些公开反对监管者的声音。如今，研发阶段被视为监管的缓冲期，开源模型也予以豁免，除非它们构成所谓的系统性风险——即风险水平过高，无法享受豁免待遇。 我想告诉那些持怀疑态度的人：欧洲的AI意味着要将这些问题纳入考量，并将这些规则融入其营销流程。最重要的是，我想告诉他们： 当你们拥有与法国及欧洲企业同样雄厚的实力、影响力、智慧和远见时，建立并落实合规体系绝非难事。
必须记住，美国和中国的AI立法也正在制定中，而且 大家的目标是一致的：在应用这些新技术时，要保留并重新聚焦于人的因素 ——或者至少尽最大努力去尝试做到这一点。
对于那些已经开始测试或使用人工智能系统的欧洲企业，合规问题该如何处理？
最好的应对方式是回顾时间线。 《人工智能法案》将于4月22日 。5月，该法案将在《欧盟公报》上公布，随后相关时间表将正式启动。 六个月内，平台必须移除被禁止的人工智能系统或使其符合规定。 一年后，通用人工智能模型的发布者必须遵守相关法规。两年后，所有其他人工智能系统都必须履行全部义务，对于合规过程更为复杂的人工智能，将给予稍长的期限。 换言之，每当人工智能涉及本身受监管的产品或设备（例如医疗器械、天然气输送、特定机床等）时，立法者将给予36个月的合规期，因为这些法规需要逐步累积并有序实施。
因此， 首要任务是梳理、识别和筛查被禁止的人工智能，将其剔除或使其符合合规要求。我们的目标是通过创造价值来实现合规，即不断自问合规的意义何在，从而打造安全、易于理解且可解释、具有明确用途、并尽可能降低能耗的优质产品。
你能举些例子说明哪些人工智能即将被禁止吗？
《人工智能法案》采取了基于风险的方法。某些人工智能系统被认为存在“不可接受”的风险，因此立法者将其列为禁止对象。 此类系统共有八种， 其中之一是可能实现潜意识操控的人工智能系统。 该清单还包括泛化社会评分系统，即根据经济水平或社会地位对个人进行评定和分类，但需在大规模范围内实施。基于生物识别技术的情绪识别系统在工作场所和教育环境中也被禁止，但出于安全原因除外。例如，在生产设施中，我们可能需要尝试测量人们的情绪状态，以维护其在生产线上的安全，或防范潜在入侵者。 另一项被禁止的AIS是用于打击犯罪的面部识别系统。此类视频监控仅限于特定机构及特定罪行。当允许私营组织使用时，仅限于被视为极其严重的罪行，如恐怖主义、犯罪、袭击和强奸，且《AI法案》对此规定得非常具体。
举个例子，如果OpenAI不公开其模型并“按规则行事”，那么一年后OpenAI会在欧洲被禁用吗？
如果是那样的话，确实，人们就不得不停止使用它，而OpenAI也将面临巨额罚款。但我并不认为会出现这种情况。 我认为各方都会遵守相关法规。 这绝非易事——不仅成本高昂，还需周密规划。合规意味着要制定预算以满足要求、加快进度、调动专家、培训团队，并将合规工作纳入公司发展路线图。虽然不易，但完全可行，而且鉴于其中的利害关系，这必须完成。
我们如何超越合规要求，将这些法规转化为竞争优势？
在应用规则时，我们会考察 该规则能在多大程度上服务于产品。例如，当您在整个供应链中承担可追溯性和可解释性的义务，且使用了分包商时，向这些分包商寻求质量保障可能意味着降低成本或建立标准，这显然对产品有利。那么，我们如何将这一约束转化为机遇？我们要考察该规则在多大程度上能够带来质量和安全方面的必要响应。
某些行业已经意识到了这一点，例如食品行业。“营养评分”（Nutri-Score）就是一项有助于遵守规则的产品的标准。它建立了消费者的信任。当然，“营养评分”曾是价值链中的一项限制，但如今又有谁会对此抱怨呢？所有人都认同这种规则。航空业是另一个深知合规与规则对产品有益的行业。 在安全至关重要的行业中，它们已将限制转化为信任的资产，将其视为与客户建立忠诚度、理解和情感纽带的契机。 人工智能领域亦是如此：制定这些法规是件好事……甚至或许还能借此反思：如果投入与收益不成正比，我们是否真的需要某项特定的人工智能。
企业若推迟实施《人工智能法案》，将面临哪些风险？
麦克阿瑟将军曾有句名言：“战败可以归结为两个字：太迟了。”之所以会太迟，可能是因为欧洲立法者已经建立了一个由监管机构和制裁措施构成的强制性体系。除了对法律后果的担忧之外，在市场准入链条中，时机也可能已经错过了。 就人工智能而言，如今几乎没有哪家企业不谈“信任”、“负责任的人工智能”或“目标一致的人工智能”，仿佛这些特质是与生俱来的。没有信任就无法开发人工智能，因此这必然会在市场上产生影响。 若未能从一开始就建立合规流程，你必将在整个价值链中处于劣势。
贵公司的新项目“Naaia”是如何帮助企业应对这些挑战的？
Naaia 帮助企业专注于核心业务、创新及团队建设。我们的工具提供了以最快、最有效的方式实现合规的关键。它包含一个资质评估算法，该算法会在企业内部建立一个库，用于识别和评估所有人工智能系统，并据此生成行动计划。 该行动计划将在每个人工智能系统（AIS）的范围内制定，同时整合各项法规要求，通过提供具体行动清单、文档模板及团队培训工具，助力企业快速有效地实现合规。我们通过减少限制和成本、限制使用与团队及产品不够贴近的外部专家，并努力将这一职能内部化以实现消化和内化，从而达成这一目标。 “代谢”一词恰是合规工作的精髓，唯有如此，当产品投放市场时，我们才能尽可能地无忧无虑、畅通无阻。
你今天主要服务的是哪类客户？
目前，主要涉及人工智能的早期采用者和大规模采用者，以及拥有庞大管道且已部署大量人工智能技术的C40集团。此外，还有一些核心业务为人工智能的更专业化的企业，它们必须立即采取合规措施，因为这关乎生死存亡：如果不合规，它们将无法进入市场。 随后，我们将逐步将规模较小的企业纳入其中。这些企业处理合规问题的资源有限，但未来可选方案将更加有限。 正如我们有CRM来管理客户关系、有ERP来管理生产、有HRIS来管理人力资源一样，我们相信我们需要一个工具来集中管理AI，并帮助所有人正确使用AI及明确责任归属。就此而言，Naaia作为AIMS（人工智能管理系统）将逐渐成为一种通用工具——这就是我们对未来的愿景。
