Artefact 工业人工智能峰会——2024年9月17日——巴黎

来自Framatome公司首席信息技术与数字化官、执行副总裁Vincent Champain，Viginum公司警惕与保护部门负责人Marc-Antoine Brillant，以及Stormshield公司工程副总裁Franck Bourguet的圆桌讨论核心要点。
主持人：Artefact咨询总监Jérémie Cornet-Vuckovic。

网络安全中主权与人工智能导论

本次会议邀请了来自Framatome、Viginum和Stormshield的专家，共同探讨人工智能如何影响网络安全、数字主权及信息战。与会专家深入探讨了来自国外的数字干预威胁日益加剧的问题，以及人工智能在利用和防范这些风险方面所发挥的作用。

法马通公司的网络安全水平

Framatome 的代表概述了三个关键的网络安全层面：技术解决方案、内部最佳实践以及攻击预判。虽然防火墙等技术措施已很普遍，但企业往往忽视了对内部行为的严格规范。人工智能被视为提升这三个层面检测、预防和响应能力的推动力。确保员工理解网络安全的重要性，对于防范钓鱼攻击等安全漏洞至关重要。

Viginum 致力于保护公共辩论

法国国家数字干预监测机构Viginum致力于保护公共讨论，尤其是在选举期间。发言人重点指出，恶意行为者如何利用人工智能制造合成内容（如深度伪造视频），这些内容可能扰乱民主进程。挑战在于区分真实内容与合成内容，因为这些由人工智能生成的帖子可能会对公众舆论产生重大影响。Viginum致力于开发工具，用于标记和检测虚假内容，并维护公共讨论的透明度。

Stormshield在网络安全领域的人工智能策略

网络安全服务提供商Stormshield 解释了如何利用人工智能通过行为分析来增强恶意软件检测能力。尽管大规模的人工智能驱动攻击目前尚不常见，但该公司致力于利用人工智能改进产品并预判未来威胁。人工智能使他们能够根据恶意软件在 IT 系统中的行为表现来识别其身份。 此外，该公司还强调了网络犯罪分子可能利用人工智能开发出能够规避传统检测方法的复杂恶意软件这一风险。在持续进行的网络安全战役中，人工智能已成为保持领先地位的关键。

人工智能驱动的虚假信息与数字主权威胁

Viginum和Stormshield都强调了人工智能驱动的虚假信息所构成的威胁。人工智能生成的假新闻和深度伪造内容对数字主权和公众信任构成了严峻挑战。人工智能使恶意行为者能够制造出极具说服力的虚假内容，从而影响公众舆论，甚至可能干扰选举或其他民主进程。要检测并遏制此类虚假信息的传播，就需要开发先进的基于人工智能的工具来维护数字主权。

防范人工智能驱动的网络攻击

企业必须采取主动姿态，防范由人工智能驱动的威胁。Framatome的代表强调，网络安全应融入组织的各个层面。在运营流程中，将网络安全与质量控制同等重视至关重要。人工智能工具可帮助识别漏洞、自动执行系统补丁更新，并监控系统以防范潜在威胁。 在核能等行业保护敏感信息，既需要技术解决方案，也需要组织层面的承诺。在此背景下，人工智能在监控工业系统和保障运营技术（OT）安全方面发挥着尤为关键的作用。