The Bridge - Data Leader 系列
Naaia 的首席执行官兼联合创始人 Nathalie Beslay 与 data 可视化公司 Dataveyes 和 Modality 的首席执行官兼记者 Caroline Goulard 会面，讨论将于 4 月 22 日在欧盟官方公报上公布后生效的新人工智能法案。他们在 Artefact 工作室的桥上进行了 45 分钟的访谈，探讨了该法案的方方面面，旨在确保安全和遵守基本权利，同时促进创新。.
Nathalie Beslay 是该公司的首席执行官兼联合创始人。 Naaia, Nathalie 是 artificial intelligence 行业合规和风险管理解决方案的提供商。Nathalie 自 2004 年起成为一名律师，专门从事健康和美容行业的业务。她曾领导塞维利亚前瞻性技术研究所（Seville Institute for Prospective Technological Studies）的一个项目，研究在健康领域引入新技术所面临的挑战和风险，因此非常适合讨论监管问题。她还曾担任法国卫生国务秘书的生物伦理问题技术顾问，以及一家电子健康解决方案运营商的总法律顾问。.
您的背景如何帮助您理解当前围绕 artificial intelligence 的问题？
无论是在医疗保健领域还是在人工智能领域，人们都在与监管限制作斗争。. 关键是将制约因素转化为机遇. .对保健产品监管框架的了解有助于我理解新人工智能监管框架的利害关系和风险，因为它的构建方式与保健产品的构建方式完全相同：其根本目标基本上是用户和产品受益人的安全。.
那么，人工智能的监管方式与药物的监管方式相同吗？
人工智能法》旨在 横向产品监管. .这意味着它适用于任何类型的公司，无论其规模大小，是私营企业还是上市公司。某些部门（如军事部门）也有例外，但这是一项产品法规，在概念和义务类型上与其他产品法规类似。.
请告诉我们更多有关《人工智能法》的信息。企业如何从这项法规中获得附加值？
在长达 400 页的复杂内容背后，《人工智能法》实质上是一个风险管理系统、一个质量保证系统、文件、技术文件和使用说明。关于监管门槛，人们已经说了很多--当一项法规的限制性太强时，就会造成负担，而不是带来有利的目标。但研究表明 如果企业非常数字化，监管将帮助它们发展.
要做到这一点，企业必须接受《人工智能法》，将其纳入自己的设计，并将其义务融入自己的流程中。最好的办法是说：, “我要做基于价值的合规，我要看看合规能给我的产品带来什么，从而给我的客户带来什么”。”
人工智能组件并不总是内部制造的。欧洲企业是否需要从符合欧洲标准的供应商那里购买人工智能？
由于《人工智能法》是一项产品法规，它将对 artificial intelligence 供应链施加不同的义务，具体取决于您是供应商、分销商还是部署者。不同的阶段将并列存在，这取决于您是自己生产还是购买现成的产品，或者您是使用模型然后将其转化为人工智能系统。供应商需要证明其产品符合标准并提供技术文档，定制者需要证明其尊重供应商提供的产品，但同时也要证明任何附加层都是符合标准的。 合规、无偏见、尊重版权、定性，并使用具有代表性的 data.
有人担心这将使欧洲落后于美国或中国，您对此有何看法？
人工智能法》的原始文本已经发生了变化，部分原因是那些强烈反对监管的人发出了声音。如今，研发期是管制的喘息之机，开源模型可以豁免，除非它们会带来所谓的系统性风险，即风险水平过高，无法享受豁免。我想告诉那些质疑者，欧洲人工智能公司会考虑到这些问题，并将这些规则融入到他们的营销流程中。最重要的是，我想告诉他们 如果你拥有像法国和欧洲参与者那样的能力、实力、智慧和远见，那么建立和整合合规性就一点也不复杂。.
重要的是要记住，美国和中国的人工智能立法也正在制定中，而且 每个人的目标都是一致的：在使用这些新技术时，保留并重新聚焦人的因素 - 或至少尽量做到这一点。.
欧洲的公司已经开始测试或使用人工智能系统，那么这些公司的合规性如何？
最好的应对办法是审查时间表。. 人工智能法》将于 4 月 22 日正式表决 欧洲议会。5 月，该法律将在《官方公报》上公布，然后开始执行时间表。. 6 个月后，被禁止的人工智能必须从平台上删除或符合规定。. 一年后，通用 artificial intelligence 模型的发布者必须遵守规定。两年后，所有其他人工智能系统都必须履行所有义务，合规性更复杂的人工智能系统的期限会稍长一些。换句话说，每当人工智能涉及到本身受法规约束的产品或设备时，例如医疗器械、气体运输、某些机床等，立法者将允许 36 个月的时间来遵守法规，因为这些法规需要积累和排序。.
那么, 首要任务是绘制、识别和筛选被禁止的人工智能，使其退出或符合规定. .我们的目标是通过价值来实现合规，我们要问自己合规的目的是什么，制造安全、易懂、可解释、有意义的优质产品，并尽量减少能源消耗。.
您能举例说明即将被禁止的人工智能吗？
人工智能法》采取基于风险的方法。某些人工智能系统被认为会带来 “不可接受 ”的风险，因此立法者将其列为禁止之列。. 有八个, 其中之一是 artificial intelligence 系统，它可以实现潜意识操纵。. 该清单还包括通用的社会评级系统，即根据经济水平或社会地位对个人进行定性和分类，但规模较大。在工作场所和教育环境中，除非出于安全原因，否则也禁止使用基于生物识别技术的情感识别系统。例如，在生产设施中，我们可能需要尝试测量人们的情绪状态，以维护他们在生产线上的安全或确保安全，防止可能的入侵者。另一种被禁止的 AIS 是用于打击犯罪的面部识别系统。这种类型的视频监控仅限于某些当局和某些犯罪行为。当允许私人组织使用时，是针对某些被认为非常严重的罪行，如恐怖主义、犯罪、攻击和强奸，而且在《人工智能法》中是如此具体。.
举例来说，如果 OpenAI 不记录其模型并 “玩游戏”，那么一年后，OpenAI 是否会在欧洲被禁止？
在这种情况下，是的，人们将不得不停止使用它，OpenAI 也将被处以巨额罚款。但我不相信这种情况。. 我认为球员们会遵守规定。. 这并不容易--成本高昂，需要大量规划。合规意味着要制定预算以满足要求、加快速度、动员专家、培训团队并将合规纳入公司的路线图。这并不容易，但却是可行的，考虑到其中的利害关系，必须这样做。.
我们如何才能超越合规，将这些法规转化为竞争优势？
在运用规则时，我们要考虑 规则为产品服务的程度. .例如，当你有义务在整个生产链中进行追溯和说明，而你又使用分包商时，向这些分包商要质量就意味着提高成本或制定标准，而这显然对产品有利。那么，我们如何将这种限制转化为机遇呢？我们要看该规则在多大程度上会对质量和安全产生必要的影响。.
某些行业已经明白了这一点，比如食品行业。Nutri-Score 是一项有助于参与游戏的产品的规则。它建立了消费者的信任。当然，"营养分数 "一直是价值链中的一个制约因素，但如今谁还能抱怨它呢？大家都同意这种规则。航空业是另一个知道合规和规则对其产品有利的行业。. 在安全至关重要的行业中，他们将制约因素转化为一种信任资产，一种与客户建立忠诚、理解和联系的机会。. 对于 artificial intelligence 来说也是一样：制定这些规定是件好事......如果相对于收益而言，付出的努力过大，或许还可以借此机会质疑我们是否真的需要某种人工智能。.
推迟实施《人工智能法》对公司有什么风险？
麦克阿瑟将军有句名言：“失败的战斗可以用两个字来概括：为时已晚”。“为时已晚可能是因为欧洲立法者已经建立了一个具有权威性和制裁性的强制系统。除了担心法律后果之外，在市场准入链条上也可能为时已晚。就人工智能而言，如今很少有参与者不说 ”信任 “或 ”负责任的人工智能 “或 ”一致的人工智能"，仿佛这是与生俱来的。没有信任就不可能有人工智能，所以它必然会在市场上产生影响。. 如果你从一开始就没有建立合规流程，你肯定会在整个价值链上吃亏。.
您的新项目 Naaia 如何帮助企业应对这些挑战？
Naaia 帮助企业专注于核心业务、创新和团队。我们的工具提供了尽可能快速有效地实现合规性的关键。它包括一种鉴定算法，可在公司内部创建一个存储库，用于识别和鉴定所有 artificial intelligence 系统，然后生成一个行动计划。该行动计划将在每个 AIS 的范围内制定，但也将汇集所有法规的力量，帮助公司快速有效地实现合规，为他们提供具体行动清单、文档模板和培训工具，以便团队开始行动。为此，我们将限制各种制约因素和成本，限制使用任何与团队和产品不够密切的专家，并努力使这一职能内部化，以便消化和新陈代谢。. 遵守规定的正确说法是 “新陈代谢”，这样，当我们把产品投放市场时，我们就可以尽可能不担心、不受阻。.
您现在与什么样的客户合作？
如今，主要是人工智能的早期采用者和大规模采用者，C40 集团拥有庞大的管道，已经部署了大量人工智能。还有一些以人工智能为核心业务的专业公司，他们绝对有义务立即采用合规做法，因为这是一个生死攸关的问题：如果不合规，他们就无法进入市场。之后，我们将逐步纳入规模较小的公司。它们处理合规问题的资源较少，但未来的选择也会更少。. 正如有 CRM 来管理客户关系、ERP 来管理生产、HRIS 来管理人力资源一样，我们相信我们需要一个工具来集中管理人工智能, 在这方面，Naaia 是一个 AIMS，一个将成为商品的人工智能管理系统--这是我们对未来的展望。在这方面，Naaia 是一个 AIMS，一个将成为商品的人工智能管理系统，这就是我们对未来的展望。.
