FRAMATOME, VIGINUM et STORMSHIELD à l'événement « AI for Industry » organisé par Artefact Souveraineté : vos concurrents sont à l'écoute. Que faire et comment s'y prendre ?

Cette session a réuni des experts de Framatome, Viginum et Stormshield, qui ont débattu de l'impact de l'IA sur la cybersécurité, la souveraineté numérique et la guerre de l'information. Les intervenants ont examiné les menaces croissantes liées à l'ingérence numérique étrangère, ainsi que le rôle de l'IA tant dans l'exploitation de ces risques que dans la défense contre ceux-ci.

Le représentant de Framatome a mis en avant trois niveaux clés de cybersécurité : les solutions techniques, les bonnes pratiques internes et l'anticipation des attaques. Si les mesures techniques telles que les pare-feu sont courantes, les entreprises négligent souvent de mettre en place des règles de conduite internes strictes. L'IA est considérée comme un catalyseur permettant d'améliorer la détection, la prévention et la réaction à tous ces trois niveaux. Il est essentiel de veiller à ce que les employés comprennent l'importance de la cybersécurité pour prévenir les vulnérabilités telles que les attaques par hameçonnage.

Viginum, l'agence nationale française chargée de détecter les ingérences numériques étrangères, a pour mission de protéger les débats publics, en particulier lors des élections. L'intervenant a souligné la manière dont des acteurs malveillants utilisent l'IA pour créer des contenus synthétiques, tels que les deepfakes, susceptibles de perturber les processus démocratiques. Le défi consiste à distinguer les contenus authentiques des contenus synthétiques, car ces publications générées par l'IA peuvent influencer considérablement l'opinion publique. Viginum s'attache à développer des outils permettant de signaler et de détecter les contenus non authentiques et de préserver la transparence dans les débats publics.

Stormshield, un fournisseur de solutions de cybersécurité, a expliqué comment l'IA est utilisée pour améliorer la détection des logiciels malveillants grâce à l'analyse comportementale. Bien que les attaques à grande échelle basées sur l'IA ne soient pas encore courantes, l'entreprise s'attache à utiliser l'IA pour améliorer ses produits et anticiper les menaces futures. L'IA lui permet d'identifier les logiciels malveillants en fonction de leur comportement au sein des systèmes informatiques. De plus, elle a souligné le risque que les cybercriminels utilisent l'IA pour développer des logiciels malveillants sophistiqués capables de contourner les méthodes de détection traditionnelles. L'IA devient indispensable pour garder une longueur d'avance dans cette lutte permanente contre les menaces de cybersécurité.

Viginum et Stormshield ont toutes deux souligné la menace que représente la désinformation générée par l'IA. Les fausses informations et les deepfakes créés par l'IA constituent de sérieux défis pour la souveraineté numérique et la confiance du public. L'IA permet à des acteurs malveillants de créer des contenus falsifiés convaincants, susceptibles d'influencer l'opinion publique et, potentiellement, de perturber les élections ou d'autres processus démocratiques. Pour détecter et limiter la propagation de cette désinformation, il faudra développer des outils sophistiqués basés sur l'IA afin de préserver la souveraineté numérique.

Les entreprises doivent adopter une attitude proactive pour se prémunir contre les menaces liées à l'IA. Le représentant de Framatome a souligné que la cybersécurité devait être intégrée à tous les niveaux d'une organisation. Il est essentiel d'accorder à la cybersécurité la même importance qu'au contrôle qualité dans les processus opérationnels. Les outils d'IA peuvent aider à identifier les vulnérabilités, à automatiser l'application des correctifs et à surveiller les systèmes à la recherche de menaces potentielles. La protection des informations sensibles dans des secteurs tels que l'énergie nucléaire nécessite à la fois des solutions techniques et un engagement organisationnel. Le rôle de l'IA dans la surveillance des systèmes industriels et la sécurisation des technologies opérationnelles (OT) est particulièrement crucial dans ce contexte.