![\"Jaune](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2022\/10\/LOGOJR_fav.jpeg\" "\\"Jaune-Rouge-Logo\\"")
<\/span><\/div>La ciencia ficci\u00f3n est\u00e1 repleta de historias de IAs rebeldes, en las que las m\u00e1quinas act\u00faan seg\u00fan sus propios y nefastos sistemas de valores. \u00bfRecuerda a HAL 9000 en Odisea del espacio o a Skynet en Terminator? Pero en la vida real, los sistemas y algoritmos de IA se han integrado ampliamente en actividades cotidianas como las compras en l\u00ednea, la solicitud de pr\u00e9stamos o la consulta de redes sociales. Aunque los casos de IA renegada siguen siendo felizmente la fantas\u00eda de los autores, los desv\u00edos y los fallos de funcionamiento de la IA se han convertido en algo habitual, y a menudo tienen consecuencias muy reales.\u00a0 Todos hemos visto las im\u00e1genes generadas por IAs como Dall-E 2. Es inocentemente divertido crear una imagen de un osito de peluche escuchando m\u00fasica bajo el agua. Pero, \u00bfes consciente de que la algoritmos <\/a>utilizados perpet\u00faan los estereotipos de g\u00e9nero al sobrerrepresentar a los hombres en las im\u00e1genes de m\u00e9dicos, pilotos y directores ejecutivos, mientras que sobrerrepresentan a los women en las im\u00e1genes de enfermeras, auxiliares de vuelo y secretarias?<\/p>\n Dado el enorme n\u00famero de decisiones cotidianas que se delegan en la IA, no podemos ignorar las cuestiones \u00e9ticas que plantea su uso. La IA sigue siendo un mercado y una tecnolog\u00eda poco legislados (aunque la Comisi\u00f3n Europea trabaja activamente en una futura normativa). Por lo tanto, es responsabilidad de cada individuo proteger a los usuarios.<\/p>\n El reto de la IA es crear sistemas fiables por dise\u00f1o<\/em> que satisfagan las expectativas \u00e9ticas de nuestra sociedad. Es imperativo que nos preparemos, desde ahora, para dise\u00f1ar y mantener sistemas de IA fiables. Se trata de una vasta empresa: la \u00e9tica es un tema que se construye a lo largo de todo el ciclo de vida de un producto.<\/p>\n<\/div> La Inteligencia Artificial es un conjunto de teor\u00edas y t\u00e9cnicas que permiten a una m\u00e1quina tomar decisiones ante una situaci\u00f3n predefinida. En otras palabras, simula la inteligencia humana. Estos programas pueden ser determinista<\/strong>, donde se aplican reglas sucesivas seg\u00fan un esquema de toma de decisiones, o probabil\u00edstico<\/strong>, en la que, tras aprender de situaciones pasadas similares, el programa puede inferir c\u00f3mo deber\u00eda ser la decisi\u00f3n \u2018correcta\u2019. Esto tambi\u00e9n se denomina aprendizaje autom\u00e1tico.<\/strong><\/p>\n Independientemente del tipo de programa, la IA es la automatizaci\u00f3n de la toma de decisiones. Los riesgos \u00e9ticos no residen en que la IA automatice mal, sino al contrario, en que imite a la perfecci\u00f3n las decisiones humanas, con su carga de errores y sesgos. Muchas de estas disfunciones proceden del contexto cultural en el que se ha desarrollado la IA, cuando reproduce los sistemas de valores hist\u00f3ricos de una sociedad (desigualdad de g\u00e9nero o \u00e9tnica, por ejemplo) o los de sus dise\u00f1adores (educaci\u00f3n, sensibilidad pol\u00edtica, pr\u00e1cticas religiosas, etc.).<\/p>\n Estos sesgos son especialmente frecuentes en los algoritmos de aprendizaje autom\u00e1tico, ya que se entrenan sobre bases data heredadas, infiriendo el futuro a partir del pasado.<\/p>\n Las cuestiones esenciales relacionadas con la concepci\u00f3n y el desarrollo de un ciclo de vida de la IA digno de confianza se refieren tanto a cuestiones t\u00e9cnicas como \u00e9ticas, como por ejemplo, \u00bfc\u00f3mo detectar de forma fiable los posibles sesgos de una IA? \u00bfC\u00f3mo interpretar los resultados de un modelo? \u00bfPodemos medir la evoluci\u00f3n del rendimiento de una IA? \u00bfQu\u00e9 garant\u00edas de seguridad podemos ofrecer? \u00bfPodemos reaccionar ante una desviaci\u00f3n? Esta lista no exhaustiva refleja la diversidad de los retos que hay que afrontar durante la producci\u00f3n de una IA.<\/p>\n<\/div> A medida que los modelos de IA han evolucionado de conceptos a productos, se han creado muchas soluciones t\u00e9cnicas para facilitar la automatizaci\u00f3n y el despliegue de los sistemas de IA. Recientemente, el n\u00famero de soluciones t\u00e9cnicas disponibles se ha disparado, creando un rico ecosistema alimentado por la innovaci\u00f3n constante tanto de las empresas de nueva creaci\u00f3n como de los l\u00edderes del sector. Ejemplos notables son el Alianza para la Infraestructura de la IA<\/a> y el Comunidad MLOps<\/a>, de las que Artefact es miembro. Por tanto, encontrar la herramienta adecuada para cada tarea es cada vez m\u00e1s importante, y m\u00e1s dif\u00edcil.<\/p>\n Al mismo tiempo, se ha desarrollado un ecosistema igualmente vibrante de empresas de consultor\u00eda para ayudar a sus clientes a tomar estas decisiones estrat\u00e9gicas.<\/p>\n Muchas de estas soluciones t\u00e9cnicas existen en c\u00f3digo abierto y est\u00e1n a libre disposici\u00f3n de todos. Estos conjuntos de herramientas pueden detectar y medir los sesgos a lo largo de toda la cadena de procesamiento data: desde la recogida hasta la explotaci\u00f3n, pasando por la transformaci\u00f3n y el modelado. Estas soluciones deben aplicarse a lo largo de todo el ciclo de vida del producto, tanto en la fase de dise\u00f1o y desarrollo como en la de producci\u00f3n, para garantizar una correcci\u00f3n permanente. Hay tres \u00e1reas concretas que pueden abordarse con soluciones t\u00e9cnicas.<\/p>\n<\/div> Los prejuicios no se originan en los cient\u00edficos data, sino en los datasets. Por eso es necesario explorar y pensar en profundidad primero en los datasets. Los sesgos pueden ser tanto t\u00e9cnicos (variables omitidas, database o problemas de selecci\u00f3n) como sociales (econ\u00f3micos, cognitivos, emocionales).<\/p>\n Para rectificar los conjuntos de entrenamiento, podr\u00eda parecer l\u00f3gico borrar todo rastro de data sensible. Sin embargo, esto ser\u00eda tan in\u00fatil como peligroso: por un lado, porque el data no sensible puede estar insidiosamente correlacionado con el data sensible, y por otro, porque este tipo de atajo incita a limitar los controles regulares del data y de los procesos.<\/p>\n Para detectar estos sesgos, hay que ser consciente de que existen y saber qu\u00e9 buscar. Es importante comprender el contexto del data para interpretarlo correctamente. Un solo programa no puede identificar los sesgos, de ah\u00ed la importancia de contar con diversos equipos de cient\u00edficos del data.<\/p>\n Es pensando de forma cr\u00edtica sobre las diferentes m\u00e9tricas asociadas a un modelo de IA como podemos identificar y rectificar los problemas. Consideremos un modelo que necesita detectar una enfermedad presente en 1% de la poblaci\u00f3n. Si el modelo predice siempre que la persona est\u00e1 sana, el modelo tendr\u00e1 una tasa de precisi\u00f3n de 99%. Sin contexto, se trata de una puntuaci\u00f3n excelente. Sin embargo, este modelo es in\u00fatil.<\/p>\n Utilizando estad\u00edsticas b\u00e1sicas, univariantes y bivariantes dataset puede identificar algunos sesgos. Por ejemplo, \u00bfest\u00e1 cada grupo de edad representado por igual? Una soluci\u00f3n podr\u00eda ser cambiar el data continuo por el categ\u00f3rico. Las matrices de correlaci\u00f3n tambi\u00e9n pueden validar los v\u00ednculos entre dos variables relacionadas. Todo este trabajo previo es crucial para garantizar que los modelos se entrenan con conjuntos de data de calidad. En pocas palabras: \u201cBasura dentro, basura fuera\u201d.<\/span><\/p>\n<\/div> Los sistemas de IA de alto rendimiento, como las redes neuronales artificiales, son muy eficaces y se utilizan en m\u00faltiples casos de uso. Sin embargo, son dif\u00edciles de interpretar, por lo que a menudo se les llama \u201cmodelos de caja negra\u201d. El gran reto del aprendizaje autom\u00e1tico es identificar y explicar la causa del sesgo en lugar de descartar sus consecuencias. Existe un compromiso entre la explicabilidad y la precisi\u00f3n. Algunos algoritmos como los \u00e1rboles de decisi\u00f3n son muy explicables, pero menos \u00fatiles para predicciones m\u00e1s complejas.<\/p>\n El campo de la IA explicable (Ex-AI) intenta resolver este problema desarrollando m\u00e9todos y algoritmos que aumenten la explicabilidad de los sistemas. Se puede explorar la comprensi\u00f3n global, que explica c\u00f3mo funciona una IA en la poblaci\u00f3n global, o la comprensi\u00f3n local, que explica c\u00f3mo funciona el algoritmo en un ejemplo espec\u00edfico. Esta \u00faltima es exigida por el GDPR porque para ser transparente, una IA debe ser capaz de explicar por qu\u00e9 el modelo tom\u00f3 una determinada decisi\u00f3n para una persona\/objeto\/data l\u00ednea en particular. Es importante tener en cuenta tanto la comprensi\u00f3n global como la local para entender c\u00f3mo se comporta el modelo.<\/p>\n Para ello, los cient\u00edficos data pueden fijarse en las variables significativas del modelo. Por ejemplo, no es normal que en un modelo de reclutamiento el sexo sea una variable importante. Tambi\u00e9n pueden comprobar m\u00e9tricas como precisi\u00f3n<\/em> (n\u00famero de positivos bien predichos = positivo verdadero dividido por todos los positivos predichos = positivo verdadero + falso positivo), puntuaci\u00f3n F1 (resume los valores de precisi\u00f3n y retirada<\/em> en una sola m\u00e9trica), o retirada<\/em> (n\u00famero de positivos bien predichos = verdadero positivo dividido por todos los positivos = verdadero positivo + falso negativo), en relaci\u00f3n con una variable (por ejemplo, precisi\u00f3n para women frente a hombres).<\/p>\n<\/div> Las fuentes de fallos en los modelos de Inteligencia Artificial pueden ser accidentales, cuando el data est\u00e1 corrompido, o intencionadas, cuando son causadas por piratas inform\u00e1ticos, por ejemplo. Ambas fuentes de sesgo conducen a los modelos de Inteligencia Artificial al error al proporcionar predicciones o resultados incorrectos. Algunas soluciones permiten evaluar, defender y verificar los modelos y aplicaciones de aprendizaje autom\u00e1tico frente a amenazas conflictivas que pueden tener como objetivo la data (envenenamiento de la data), el modelo (fuga de modelos) o la infraestructura subyacente, tanto de hardware como de software.<\/p>\n<\/div> Fuente de la foto: https:\/\/arxiv.org\/pdf\/1412.6572.pdf<\/a><\/em><\/p>\n \u00a0<\/span><\/p>\n<\/div> Simplemente superponiendo una imagen con \u2018ruido\u2019 a una imagen normal, se puede inducir a un clasificador a clasificar err\u00f3neamente un panda como un gib\u00f3n. La diferencia es imperceptible para el ojo humano, pero esta t\u00e9cnica est\u00e1 bien documentada como capaz de inducir a error a los modelos de IA. La noci\u00f3n de IA digna de confianza no puede reducirse a su concepci\u00f3n jur\u00eddica y t\u00e9cnica. Los aspectos humanos y organizativos son cruciales para el \u00e9xito de un enfoque \u00e9tico de la IA. Las cartas \u00e9ticas y las soluciones de mejora deben ser conocidas por todas las partes interesadas, aplicadas durante todo el proceso de creaci\u00f3n y seguidas a lo largo del tiempo. Esto requiere una transformaci\u00f3n de la cultura de la organizaci\u00f3n para integrar profundamente las cuestiones y los enfoques \u00e9ticos, garantizar la sostenibilidad de las soluciones y contribuir a una IA \u00e9tica. por dise\u00f1o<\/em>.<\/p>\n La IA en s\u00ed misma no es ni \u00e9tica ni no \u00e9tica. Es s\u00f3lo la forma en que se entrena el sistema o c\u00f3mo se utiliza lo que es \u00e9tico o no. Por lo tanto, el verdadero riesgo \u00e9tico vinculado al uso masivo de la IA no es que los algoritmos puedan rebelarse. Al contrario, el riesgo surge precisamente cuando la IA se comporta exactamente como le hemos pedido que lo haga, imitando nuestros prejuicios, repitiendo nuestros errores y reforzando nuestras incertidumbres e imprecisiones.<\/p>\n Este tema nos interesa mucho en Artefact<\/a>, Por eso le hemos dedicado equipos y hemos desarrollado un apoyo espec\u00edfico en el desarrollo de la gobernanza, la implementaci\u00f3n de soluciones t\u00e9cnicas y la consultor\u00eda de estrategias de IA.<\/p>\n Trabajamos en estrecha colaboraci\u00f3n con el mundo acad\u00e9mico, como socio de la Bueno en tecnolog\u00eda<\/a> cofundada por el Institut Mines-T\u00e9l\u00e9com y Sciences Po, para reducir la brecha entre la investigaci\u00f3n y la pr\u00e1ctica. Artefact tambi\u00e9n ha recibido la etiqueta de IA Responsable y de Confianza, otorgada por la asociaci\u00f3n independiente Laboratorios Labelia<\/a>, lo que garantiza un alto nivel de madurez en el tema de la IA responsable y digna de confianza.<\/p>\n La cuesti\u00f3n de la \u00e9tica nos concierne a todos, y es esencial ser proactivo en el tema; la adopci\u00f3n de un comportamiento \u00e9tico no debe ser una mera reacci\u00f3n. La inteligencia artificial atraviesa un periodo evolutivo, en el que sus procesos y su \u00e9tica est\u00e1n en v\u00edas de definici\u00f3n. En un campo que a\u00fan no est\u00e1 regulado, corresponde a quienes desempe\u00f1an un papel activo tomar la iniciativa. Como desarrolladores, consultores y gestores, es nuestra responsabilidad satisfacer las expectativas de todos los implicados -no s\u00f3lo de los clientes y usuarios de los servicios, sino de la sociedad en general- y utilizar el poder de la IA para crear un mundo mejor.<\/p>\n<\/div><\/div><\/div><\/div><\/article><\/p>","protected":false},"excerpt":{"rendered":" Para crear una IA \u00e9tica, los desarrolladores deben crear data-driven, soluciones de IA fiables mediante el dise\u00f1o de una forma t\u00e9cnica, legal y humanista.<\/p>","protected":false},"author":[],"featured_media":68983,"template":"","meta":{"_acf_changed":false,"ep_exclude_from_search":false},"news-category":[2819],"news-language":[311],"class_list":["post-68976","news","type-news","status-publish","has-post-thumbnail","hentry","news-category-news-france","news-language-en"],"acf":[],"_links":{"self":[{"href":"https:\/\/www.artefact.com\/es\/wp-json\/wp\/v2\/news\/68976","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.artefact.com\/es\/wp-json\/wp\/v2\/news"}],"about":[{"href":"https:\/\/www.artefact.com\/es\/wp-json\/wp\/v2\/types\/news"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.artefact.com\/es\/wp-json\/wp\/v2\/media\/68983"}],"wp:attachment":[{"href":"https:\/\/www.artefact.com\/es\/wp-json\/wp\/v2\/media?parent=68976"}],"wp:term":[{"taxonomy":"author","embeddable":true,"href":"https:\/\/www.artefact.com\/es\/wp-json\/wp\/v2\/author?post=68976"},{"taxonomy":"news-category","embeddable":true,"href":"https:\/\/www.artefact.com\/es\/wp-json\/wp\/v2\/news-category?post=68976"},{"taxonomy":"news-language","embeddable":true,"href":"https:\/\/www.artefact.com\/es\/wp-json\/wp\/v2\/news-language?post=68976"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}
\n<\/span><\/p>\n<\/div>Luchar contra los estereotipos con \u00e9tica<\/h2><\/div>
Inteligencia artificial que reproduce los errores humanos<\/h2><\/div>
Utilizar la IA para corregir sus sesgos<\/h2><\/div>
\n
Corregir los sesgos del pasado en la IA<\/h2><\/div>
Explicar los resultados de un modelo<\/h2><\/div>
\n
Mejorar la solidez de un modelo<\/h2><\/div>
![\"both](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2023\/02\/both-hardware-and-software.png\" "\\"tanto")
<\/span><\/div>
\n<\/span><\/p>\n<\/div>Desarrollar sistemas menos humanos, pero m\u00e1s humanistas<\/h2><\/div>
\n
Ser proactivo en la IA \u00e9tica<\/h2><\/div>