AI : la importancia del cumplimiento normativo y lo que está en juego para las empresas de todo tipo y tamaño

Mira el vídeo de Data 

Escucha el podcast 

Nathalie Beslay es la directora ejecutiva y cofundadora de Naaia, un proveedor de soluciones de cumplimiento normativo y gestión de riesgos para el Inteligencia Artificial . Abogada desde 2004, la práctica de Nathalie se centra en el sector de la salud y la belleza. Está altamente cualificada para abordar cuestiones normativas, ya que ha dirigido un proyecto para el Instituto de Estudios Tecnológicos Prospectivos de Sevilla sobre los retos y riesgos de la introducción de nuevas tecnologías en el sector sanitario. También ha sido asesora técnica del secretario de Estado francés de Sanidad en cuestiones de bioética y consejera general de un operador de soluciones de salud electrónica.

Ya sea en el ámbito sanitario o en AI, las personas se enfrentan a limitaciones normativas. La clave está en convertir esas limitaciones en oportunidades. Comprender el marco normativo de los productos sanitarios me ayudó a entender lo que está en juego y los riesgos del nuevo marco AI , ya que está estructurado exactamente de la misma manera que los que regulan los productos sanitarios: los objetivos fundamentales son, básicamente, la seguridad de los usuarios y de quienes se benefician de los productos.

AI está concebida como una regulación horizontal de productos. Esto significa que se aplica a cualquier tipo de Compañia, independientemente de su tamaño, ya sea privada o pública. Existen excepciones para determinados sectores, como el militar, pero se trata de una normativa sobre productos, similar en concepto y tipo de obligación a otras normativas sobre productos. 

Más allá de sus 400 páginas de complejidad, la AI es, en esencia, un sistema de gestión de riesgos, un sistema de garantía de calidad, documentación, documentación técnica e instrucciones de uso. Se ha hablado mucho del umbral regulatorio: ese punto en el que una normativa resulta tan restrictiva que, en lugar de conducir a objetivos positivos, supone una carga. Sin embargo, los estudios han demostrado que si las empresas son muy digitales, la regulación les ayudará a desarrollarse.

Para que eso suceda, las empresas deben aceptar la AI , asimilarla e integrar sus obligaciones en sus procesos desde el principio. La mejor manera de hacerlo es decir: «Voy a aplicar un cumplimiento basado en el valor; voy a analizar qué puede aportar el cumplimiento a mi producto y, por lo tanto, a mis clientes».

Dado que la AI es una normativa sobre productos, impondrá diferentes obligaciones a la cadena Inteligencia Artificial , dependiendo de si se trata de un proveedor, un distribuidor o un operador. Se yuxtapondrán diferentes etapas, dependiendo de si se fabrica uno mismo o se compra un producto ya elaborado, o si se utiliza un modelo y luego se convierte en un AI . Los proveedores deberán demostrar la conformidad y proporcionar documentación técnica; los actores que personalicen los productos tendrán que demostrar que respetan lo que les han proporcionado los proveedores, pero también que cualquier capa añadida sea conforme, imparcial, respeta los derechos de autor, es de calidad y utiliza data representativos.

El texto original de la AI ha evolucionado, en parte debido a las voces de quienes se mostraron abiertamente contrarios a la regulación. Hoy en día, el periodo de I+D supone una moratoria en materia de controles, y los modelos de código abierto están exentos, salvo cuando presentan lo que se denomina un «riesgo sistémico», es decir, cuando el nivel de riesgo es demasiado elevado como para beneficiarse de la exención. Me gustaría decirles a los escépticos que AI europea AI tener en cuenta estas cuestiones e integrar estas normas en sus procesos de comercialización. Sobre todo, quiero decirles que cuando se tiene tanta capacidad, poder, inteligencia y visión como tienen nuestros actores franceses y europeos, entonces desarrollar e integrar el cumplimiento normativo no es en absoluto complicado.

Es importante recordar que AI estadounidense y china AI también se encuentra en fase de desarrollo y que todos comparten el mismo objetivo: preservar y volver a centrar el elemento humano en el uso de estas nuevas tecnologías —o, al menos, intentar hacerlo lo mejor posible.

Lo mejor es revisar el calendario. AI se someterá a votación oficialmente el 22 de abril en el Parlamento Europeo. En mayo, la ley se publicará en el Diario Oficial, y entonces comenzará el calendario. En un plazo de seis meses, AI prohibida AI eliminarse de las plataformas o adaptarse a la normativa. Al cabo de un año, los editores de Inteligencia Artificial de uso general deberán cumplir con la normativa. En dos años, todos AI demás AI deberán cumplir con todas las obligaciones, con plazos ligeramente más largos para aquellas IA cuyo cumplimiento resulte más complejo. En otras palabras, cada vez que una AI un producto o equipo que esté a su vez sujeto a regulación —por ejemplo, productos sanitarios, transporte de gas o determinadas máquinas herramienta—, el legislador concederá 36 meses para el cumplimiento, ya que estas normativas deben acumularse y ordenarse.

Por lo tanto, la primera prioridad es localizar, identificar y detectar las IA prohibidas, para eliminarlas o hacer que cumplan con la normativa. El objetivo es lograr el cumplimiento a través del valor, preguntándonos para qué sirve el cumplimiento, creando productos de calidad que sean seguros, comprensibles y explicables, que cumplan una función y que intenten consumir la menor energía posible.

AI adopta un enfoque basado en el riesgo. Se consideró que determinados AI presentaban un riesgo «inaceptable», por lo que el legislador los incluyó en la lista de sistemas prohibidos. Hay ocho de ellos, uno de los cuales son Inteligencia Artificial que podrían permitir la manipulación subliminal. La lista también incluye los sistemas de calificación social generalizada, es decir, la clasificación y categorización de individuos según su nivel económico o posición social, pero a gran escala. Los sistemas de reconocimiento emocional basados en datos biométricos también están prohibidos en el ámbito laboral y educativo, salvo por motivos de seguridad. Por ejemplo, en instalaciones de producción, puede ser necesario medir los estados emocionales de las personas para garantizar su seguridad en una línea de producción o para proteger contra posibles intrusos. Otro AIS prohibido son los sistemas de reconocimiento facial utilizados para combatir la delincuencia. Este tipo de videovigilancia está reservado a determinadas autoridades y a determinados delitos. Cuando se permite a organizaciones privadas, es para determinados delitos que se han considerado muy graves, como el terrorismo, la delincuencia, la agresión y la violación, y es tan específico como eso en la AI .

En ese caso, sí, la gente tendría que dejar de utilizarlo, y OpenAI se enfrentaría a una multa considerable. Pero no creo que se dé ese escenario. Creo que los actores cumplirán con la normativa. No será fácil: va a ser costoso y requerirá mucha planificación. El cumplimiento implica establecer un presupuesto para cumplir los requisitos, ponerse al día, movilizar a expertos, formar equipos e incorporar el cumplimiento a la hoja de ruta Compañia. No es fácil, pero es factible, y dado lo que está en juego, hay que hacerlo.

Cuando aplicamos las normas, analizamos en qué medida la norma puede beneficiar al producto. Por ejemplo, cuando existe una obligación de trazabilidad y de explicabilidad a lo largo de toda la cadena, y se recurre a subcontratistas, exigirles calidad puede suponer una mejora en los costes o la implantación de estándares, lo que, obviamente, beneficia al producto. Entonces, ¿cómo transformamos esta limitación en una oportunidad? Analizamos en qué medida la norma va a proporcionar la respuesta necesaria en materia de calidad y seguridad.

Algunos sectores lo han entendido, como el alimentario. El Nutri-Score es una norma que favorece a los productos que cumplen las reglas. Genera confianza en los consumidores. Por supuesto, el Nutri-Score ha supuesto una limitación en la cadena de valor, pero ¿quién puede quejarse de ello hoy en día? Todo el mundo está de acuerdo con este tipo de normas. La aeronáutica es otro sector que sabe que el cumplimiento normativo y las normas son beneficiosos para sus productos. En los sectores para los que la seguridad es fundamental, han convertido las restricciones en un activo de confianza, una oportunidad para fomentar la fidelidad, la comprensión y un vínculo con sus clientes. Lo mismo ocurre con Inteligencia Artificial: es positivo contar con estas regulaciones… y tal vez incluso una oportunidad para cuestionarnos si realmente necesitamos una AI determinada, si el esfuerzo es demasiado elevado en relación con el beneficio.

El general MacArthur dijo una frase célebre: «Las batallas perdidas se pueden resumir en dos palabras: demasiado tarde». Podría ser demasiado tarde porque el legislador europeo ha establecido un sistema coercitivo con autoridades y sanciones. Más allá del temor a las repercusiones legales, puede ser demasiado tarde en la cadena de acceso al mercado. En lo que respecta a AI, hoy en día son pocos los actores que no hablan de «confianza», AIo AI, como si fuera algo intrínseco. No se puede crear AI confianza, por lo que esto marcará la diferencia en el mercado. Si no se cuenta con un proceso de cumplimiento integrado desde el principio, seguramente se perderá toda la cadena de valor. 

Naaia ayuda a las empresas a centrarse en su actividad principal, en la innovación y en sus equipos. Nuestra herramienta proporciona las claves para alcanzar el cumplimiento normativo de la forma más rápida y eficaz posible. Incluye un algoritmo de calificación que crea un repositorio dentro de la Compañia identificar y calificar todos Inteligencia Artificial , y a continuación genera un plan de acción. Este plan de acción se elaborará dentro del perímetro de cada SIA, pero también aunará esfuerzos en todas las normativas para ayudar a las empresas a alcanzar el cumplimiento normativo de forma rápida y eficaz, proporcionándoles listas de acciones concretas con plantillas para la documentación y herramientas de formación para que los equipos se pongan en marcha. Lo hacemos limitando las restricciones y los costes, restringiendo el uso de cualquier experto que no esté lo suficientemente cerca de los equipos y los productos, y tratando de internalizar esta función para asimilarla y metabolizarla. La palabra adecuada para el cumplimiento normativo es «metabolizar», de modo que, cuando lancemos el producto al mercado, estemos lo más tranquilos y libres de obstáculos posible.

Hoy en día, se trata principalmente de los pioneros y los grandes usuarios de AI, los grupos C40 que cuentan con una gran infraestructura y AI han implementado mucha AI . Y de actores más especializados cuya actividad principal es AI, que se ven absolutamente obligados a adoptar prácticas de cumplimiento normativo de inmediato, porque es una cuestión de vida o muerte: no podrán salir al mercado si no cumplen con la normativa. Más adelante, iremos incluyendo gradualmente a las empresas más pequeñas. Estas disponen de menos recursos para abordar las cuestiones de cumplimiento normativo, pero tendrán menos opciones en el futuro. Al igual que existe un CRM para gestionar las relaciones con los clientes, un ERP para gestionar la producción y un HRIS para gestionar los recursos humanos, creemos que necesitamos una herramienta para gestionar AI y que ayude a todos a hacer un uso adecuado de AI a gestionar las responsabilidades. En este sentido, Naaia es un AIMS, un Sistema Inteligencia Artificial que se convertirá en un producto básico: esa es nuestra visión para el futuro.