由 Artefact 主办的行业峰会 AI - 2024 年 9 月 17 日 - 巴黎
与 Framatome 首席信息技术与数字官 Vincent Champain、Viginum 警戒与保护部门主管 Marc-Antoine Brillant 和 Stormshield 工程副总裁 Franck Bourguet 进行小组讨论的主要收获。.
由 Artefact 咨询总监 Jérémie Cornet-Vuckovic 主持。.
网络安全中的主权和 AI 简介
来自 Framatome、Viginum 和 Stormshield 的专家在会上讨论了 AI 如何影响网络安全、数字主权和信息战。小组成员探讨了外国数字干扰日益增长的威胁，以及 AI 在利用和抵御这些风险方面的作用。.
Framatome 的网络安全水平
Framatome 的代表概述了网络安全的三个关键层面：技术解决方案、内部最佳实践和攻击预测。虽然防火墙等技术措施很常见，但企业往往忽略了严格执行内部行为规范。AI 被视为提高所有三个层面的检测、预防和响应能力的助推器。确保员工了解网络安全的重要性对于预防网络钓鱼攻击等漏洞至关重要。.
Viginum 注重保护公众辩论
Viginum 是法国侦测外国数字干扰的国家机构，致力于保护公众辩论，尤其是在选举期间。发言者强调了恶意行为者如何利用 AI 创建合成内容，如深度伪造内容，从而破坏民主进程。挑战在于如何区分真实内容和合成内容，因为这些由 AI 生成的帖子可以极大地影响公众舆论。Viginum 致力于开发工具来标记和检测不真实的内容，并保持公共辩论的透明度。.
Stormshield 在网络安全方面的 AI 方法
网络安全提供商 Stormshield 介绍了如何利用 AI 通过行为分析加强恶意软件检测。虽然 AI 驱动的大规模攻击还不常见，但该公司专注于利用 AI 改进其产品并预测未来的威胁。AI 使他们能够根据恶意软件在 IT 系统中的行为识别恶意软件。此外，他们还强调了网络犯罪分子利用 AI 开发能够躲避传统检测方法的复杂恶意软件的风险。AI 对于在这场持续的网络安全斗争中保持领先地位至关重要。.
AI 驱动的虚假信息和数字主权威胁
Viginum 和 Stormshield 都强调了 AI 驱动的虚假信息的威胁。AI 生成的假新闻和深度伪造对数字主权和公众信任构成了严重挑战。AI 允许恶意行为者创建令人信服的虚假内容，从而影响公众舆论，并可能破坏选举或其他民主进程。要检测和减少此类虚假信息的传播，就需要开发由 AI 驱动的先进工具，以捍卫数字主权。.
抵御 AI 驱动的网络攻击
公司必须采取积极主动的态度，抵御 AI 驱动的威胁。Framatome 的代表强调，网络安全应融入企业的各个层面。网络安全与运营流程中的质量控制同等重要，这一点至关重要。AI 工具可以帮助识别漏洞、自动修补系统和监控系统的潜在威胁。保护核能等行业的敏感信息需要技术解决方案和组织承诺。在这种情况下，AI 在监控工业系统和保护操作技术 (OT) 安全方面的作用尤为重要。.
