FRAMATOME, VIGINUM & STORMSHIELD en AI for Industry by Artefact - Soberanía: sus competidores le escuchan. ¿Qué hacer y cómo?

La sesión contó con la participación de expertos de Framatome, Viginum y Stormshield, que debatieron sobre el impacto de la IA en la ciberseguridad, la soberanía digital y la guerra de la información. Los panelistas exploraron las crecientes amenazas de injerencia digital extranjera y el papel de la IA tanto en la explotación como en la defensa contra estos riesgos.

El representante de Framatome esbozó tres niveles clave de ciberseguridad: soluciones técnicas, buenas prácticas internas y anticipación a los ataques. Aunque las medidas técnicas como los cortafuegos son habituales, las empresas suelen pasar por alto la aplicación de comportamientos internos estrictos. La IA se considera un facilitador para mejorar la detección, la prevención y la respuesta en los tres niveles. Garantizar que los empleados comprendan la importancia de la ciberseguridad es fundamental para prevenir vulnerabilidades como los ataques de phishing.

Viginum, la agencia nacional francesa para la detección de injerencias digitales extranjeras, se dedica a proteger los debates públicos, especialmente durante las elecciones. El ponente destacó cómo los actores maliciosos utilizan la IA para crear contenidos sintéticos, como los deepfakes, que pueden perturbar los procesos democráticos. El reto reside en distinguir entre contenido auténtico y sintético, ya que estas publicaciones generadas por IA pueden influir significativamente en la opinión pública. Viginum se centra en el desarrollo de herramientas para etiquetar y detectar contenidos no auténticos y mantener la transparencia en los debates públicos.

Stormshield, un proveedor de ciberseguridad, explicó cómo se utiliza la IA para mejorar la detección de malware mediante el análisis del comportamiento. Aunque los ataques a gran escala impulsados por la IA todavía no son habituales, la empresa se centra en el uso de la IA para mejorar sus productos y anticiparse a futuras amenazas. La IA les permite identificar el malware basándose en cómo se comporta dentro de los sistemas informáticos. Además, subrayaron el riesgo de que los ciberdelincuentes puedan utilizar la IA para desarrollar malware sofisticado capaz de eludir los métodos de detección tradicionales. La IA se convierte en algo esencial para mantenerse a la cabeza en esta batalla continua de la ciberseguridad.

Tanto Viginum como Stormshield hicieron hincapié en la amenaza de la desinformación impulsada por la IA. Las noticias falsas generadas por la IA y las falsificaciones profundas plantean graves desafíos para la soberanía digital y la confianza pública. La IA permite a los actores maliciosos crear contenidos falsos convincentes que pueden influir en la opinión pública, perturbando potencialmente las elecciones u otros procesos democráticos. Detectar y mitigar la propagación de este tipo de desinformación requerirá el desarrollo de sofisticadas herramientas impulsadas por la IA para salvaguardar la soberanía digital.

Las empresas deben adoptar una postura proactiva en la defensa contra las amenazas impulsadas por la IA. El representante de Framatome subrayó que la ciberseguridad debe integrarse en todos los niveles de una organización. Es crucial tratar la ciberseguridad con la misma importancia que el control de calidad en los procesos operativos. Las herramientas de IA pueden ayudar a identificar vulnerabilidades, automatizar los parches de los sistemas y supervisar los sistemas en busca de posibles amenazas. Proteger la información sensible en industrias como la de la energía nuclear requiere tanto soluciones técnicas como compromiso organizativo. El papel de la IA en la supervisión de los sistemas industriales y la seguridad de la tecnología operativa (OT) es especialmente crítico en este contexto.