La Ley de IA: un marco normativo basado en un enfoque de riesgo para garantizar un uso fiable de los modelos de IA
Fuente: Comisión Europea
La Ley de Inteligencia Artificial es el primer marco jurídico integral sobre la inteligencia artificial a nivel mundial. Su objetivo es proteger los derechos fundamentales, la democracia, el Estado de derecho y la sostenibilidad medioambiental frente a la IA de alto riesgo, mientras que impulsar la innovación y consolidar a Europa como líder en este ámbito. El reglamento establece obligaciones para la IA en función de sus riesgos potenciales y su nivel de impacto.
Las nuevas normas:
Abordar los riesgos derivados específicamente de las aplicaciones de inteligencia artificial;
Prohibir las prácticas relacionadas con la inteligencia artificial que entrañen riesgos inaceptables;
Establecer requisitos claros para los sistemas de inteligencia artificial destinados a aplicaciones de alto riesgo;
Definir las obligaciones específicas de los responsables de la implementación y los proveedores de aplicaciones de IA de alto riesgo;
Exigir evaluaciones de conformidad antes de que los sistemas de IA se implementen o comercialicen;
Establecer medidas de control una vez que un sistema de IA concreto se haya comercializado;
Establecer una estructura de gobernanza a escala europea y nacional.
Se prohibirán todos los sistemas de inteligencia artificial que se consideren una amenaza clara para la seguridad, los medios de vida y los derechos de las personas, desde los sistemas de puntuación social aplicados por los gobiernos hasta los juguetes que utilicen asistentes de voz y fomenten comportamientos peligrosos.
La Ley de Inteligencia Artificial: cómo transformar la percepción de una normativa en una oportunidad para la reinvención
VEA EL VÍDEO
(En el caso de los vídeos, puede activar los subtítulos en su idioma directamente en YouTube; consulte la configuración.)
Ahora que se ha aprobado la Ley de Inteligencia Artificial, Ha llegado el momento de que las empresas colaboren con los organismos reguladores en materia de normas y buenas prácticas.. La amplia experiencia de Artefact en el apoyo a grandes empresas en materia de data y transformación digital ha demostrado que, al aprovechar las restricciones normativas como el RGPD, las empresas han podido replantearse sus procesos y mejorar su conocimiento del cliente. Como resultado, han mejorado la eficiencia de sus operaciones y de su estrategia de marketing, han personalizado la experiencia del consumidor y mucho más.
Con el fin de ayudar a nuestros clientes a integrar desde el principio las disposiciones de la Ley de IA en el desarrollo de modelos de IA empresariales, inspirándonos en el principio de “privacidad desde el diseño”, Artefact utiliza plataformas para sus clientes, como naaia, que convertir las normas en procesos operativos concretos y proporcionar listas de tareas que garanticen el cumplimiento normativo de los proyectos de IA.
Nathalie Beslay, directora general y cofundadora de naaia, comparte nuestra filosofía y nuestro enfoque. Ella detalla el cronología de las nuevas normativas que las empresas deberán cumplir. La Ley de IA es una “normativa horizontal sobre productos” que adopta un enfoque integral en todas las fases de la producción y que se aplica a cualquier tipo de empresa, independientemente de su tamaño, ya sea privada o pública.
Nathalie analiza diversos aspectos del cumplimiento normativo en materia de IA: tecnología y herramientas, cumplimiento normativo y aspectos jurídicos, IA prohibidas, riesgos y beneficios, tendencias futuras y escalabilidad, costes y retorno de la inversión.
IA fiable: nuevos retos y soluciones data-driven
La reproducción de los prejuicios y estereotipos humanos constituye el mayor riesgo asociado al uso masivo de artificial intelligence. El reto para la IA consiste en crear
que respondan a las expectativas éticas de nuestra sociedad. Se trata de una tarea de gran envergadura: la ética es una materia que se va forjando a lo largo de todo el ciclo de vida de
La IA consiste en la automatización de la toma de decisiones. Los riesgos éticos no residen en que la IA pueda automatizar de forma deficiente, sino, por el contrario, en que imite a la perfección las decisiones humanas, con toda la carga de errores y sesgos que ello conlleva. Muchas de estas disfunciones tienen su origen en el contexto cultural en el que se desarrolló la IA, ya que esta reproduce los sistemas de valores históricos de una sociedad (como, por ejemplo, la desigualdad de género o étnica) o los de sus diseñadores (formación, sensibilidad política, prácticas religiosas, etc.).
A medida que los modelos de IA han pasado de ser meros conceptos a convertirse en productos, muchos Se han creado soluciones técnicas para facilitar la automatización y la implantación de sistemas de IA. Los sesgos pueden ser tanto técnicos (variables omitidas, problemas de base data o de selección) como sociales (económicos, cognitivos, emocionales). Es precisamente al analizar de forma crítica las diferentes métricas asociadas a un modelo de IA como podemos identificar y rectificar los problemas. Existe un equilibrio entre la explicabilidad y la precisión. Algunos algoritmos, como los árboles de decisión, son muy explicables, pero resultan menos útiles para predicciones más complejas.
“Sin embargo, el concepto de IA fiable no puede reducirse a su acepción jurídica y técnica. Esto requiere una transformación de la cultura de la organización ”con el fin de integrar profundamente las cuestiones y los enfoques éticos, garantizar la sostenibilidad de las soluciones y contribuir a una IA ética desde su diseño»,”
Vincent Luciani, director ejecutivo y cofundador de Artefact
Cumplir la promesa de la IA: el papel de la ética en el desarrollo de modelos responsables e imparciales.
La evolución de la inteligencia artificial y el aprendizaje automático ha ha revolucionado los métodos tradicionales de clasificación de personas y contenidos. En lugar de basarse en atributos demográficos estáticos, los modelos de inteligencia artificial aprovechan ahora ingentes cantidades de datos de comportamiento data para orientar los procesos de toma de decisiones. Este cambio de paradigma no solo plantea retos técnicos, sino que también suscita profundos debates filosóficos sobre la construcción y el impacto de las categorías en la sociedad.
En una entrevista reciente con Artefact, Jean-Marie John-Mathews, Doctor, cofundador de Giskard AI, explica cómo el uso de la clasificación data, como la edad, el género, la raza y la situación socioeconómica, en un banco, por ejemplo, es problemático e incluso poco ético, pero sustituyéndolo por conductual data como el historial de transacciones permite reducir los sesgos o la discriminación.
Al adoptar estos nuevos tipos de clasificación y fomentar el diálogo entre todas las partes interesadas, las empresas pueden desenvolverse con éxito en el nuevo panorama ético. Es a través de previsión y supervisión colaborativas que las empresas puedan aprovechar el potencial transformador de la IA y, al mismo tiempo, mitigar las consecuencias no deseadas.
Cumbre Internacional Artefact Adopt AI, el 5 de junio de 2024 en Station F, en París
REGÍSTRESE AHORA
Adopt AI será la mayor cumbre sobre inteligencia artificial, Adopt AI, que contará con 100 ponentes de talla mundial y a la que se espera que asistan 2000 líderes empresariales y tecnológicos. ¡Sumérjase en las conferencias y debates sobre el impacto positivo de data y la inteligencia artificial en la economía, la sociedad y el planeta! .
Bajo el alto patrocinio de El señor Emmanuel Macron, presidente de la República Francesa, esta jornada única de conferencias, de un día completo de duración, se estructurará en torno a tres escenarios principales con el fin de difundir inspiración positiva y conocimientos prácticos sobre data y la IA:
La etapa de la visión – “Forjando visiones: el futuro en el que los negocios y la IA se unen”.”
El escenario tecnológico – “Tecnologías innovadoras: las nuevas fronteras de la IA generativa”.”
El escenario social – “La IA al servicio de la sociedad: forjando un futuro ético y sostenible”.”
Descubra a todos nuestros ponentes ya anunciados: directores generales y directores de datos de grandes empresas, fundadores de startups y scaleups innovadoras dedicadas a la IA generativa, ¡y muchos más que se sumarán próximamente!
Compruebe periódicamente
La jornada culminará con la inauguración oficial del Festival de Cine de IA Artefact, que es un concurso internacional de cortometrajes abierto a todo el mundo, en el que se premia la creatividad de los artistas que utilizan artificial intelligence, en colaboración con mk2, uno de los principales grupos de cines de autor de Europa.
Será un honor para nosotros contar con Jean-Pierre Jeunet, director de “Amélie Poulain” y “Delicatessen”, entre otras películas famosas en calidad de presidente del jurado.
Visite la página web oficial del Festival de Cine Artefact: artefacto-ai-film-festival.com
PROGRAMAS DE ACELERACIÓN DE DATOS | SOLUCIONES DE IA | MARKETING DE DATOS
