Consideraciones éticas y gobernanza necesarias para la adopción responsable de Al

AI tiene el potencial de resolver problemas complejos, aumentar la productividad y crear nuevas oportunidades. Sin embargo, también puede exacerbar las desigualdades existentes si no se diseña con cuidado. Un imperativo ético clave en la adopción de AI es alinear la tecnología con los valores humanos. La equidad, la transparencia y la rendición de cuentas, que deben guiar todas las iniciativas AI , constituyen el núcleo de esta alineación.

Uno de los principales problemas es la parcialidad. Los sistemas AI aprenden de data históricos, que pueden reflejar sesgos sociales, perpetuando así resultados injustos. Por ejemplo, en la contratación o la aprobación de préstamos, los data entrenamiento sesgados pueden perjudicar a determinados grupos demográficos, reforzando las desigualdades sistémicas.

Un estudio de la Reserva Federal descubrió que los prestatarios negros e hispanos tenían más probabilidades de que se les denegaran los préstamos y recibían condiciones menos favorables incluso cuando se controlaba la puntuación crediticia. Incluso con perfiles financieros similares, los modelos algorítmicos mostraron disparidades raciales, probablemente debido a sesgos indirectos en los data (como el código postal o la educación).

La responsabilidad de los desarrolladores y líderes empresariales es garantizar que los sistemas AI no perpetúen o empeoren los prejuicios. La supervisión y reevaluación continuas son esenciales a medida que evolucionan las normas sociales. Lo que antes se consideraba justo puede dejar de serlo a medida que la equidad crece y cambia.

AI también puede mitigar y resolver los riesgos que genera. Por ejemplo, Zest AI, una fintech Compañia, aplica restricciones de equidad en sus modelos de préstamo para reducir el impacto dispar. Sus modelos mostraron un aumento del 30-40% en las tasas de aprobación para grupos protegidos sin aumentar el riesgo de impago. Esto demostró que los préstamos justos y la predicción precisa del riesgo pueden coexistir con las técnicas adecuadas.

Para que se confíe en AI , debe ser comprensible. La complejidad de muchos modelos AI , especialmente los sistemas de aprendizaje profundo, puede hacer que parezcan "cajas negras", en las que ni siquiera los desarrolladores pueden explicar completamente las decisiones. Esta falta de transparencia disminuye la confianza y suscita preocupación, sobre todo en áreas de alto riesgo como la sanidad, la aplicación de la ley y las finanzas.

La transparencia en AI es algo más que explicar los algoritmos; se trata de hacer que el proceso de toma de decisiones sea interpretable para los humanos. Una AI explicable es una forma de garantizar que las partes interesadas puedan seguir la lógica que subyace a las decisiones.

Por ejemplo, en la atención sanitaria, los sistemas AI no solo deben proporcionar un diagnóstico, sino también explicar qué síntomas han llevado a esa conclusión, lo que permitirá a médicos y pacientes confiar en las decisiones AI.

En una reciente colaboración, un equipo de expertos desarrolló un centro de Data sobre linfomas para ayudar a los investigadores a utilizar AI para acelerar el diagnóstico en las primeras fases y la innovación terapéutica. Aprovechando la visión por ordenador, el proyecto redujo el tiempo de diagnóstico de días a minutos. Los científicos de Data utilizaron mapas de calor para interpretar el enfoque del modelo, proporcionando a los expertos una visión clara del proceso de toma de decisiones.

La transparencia también implica ser franco sobre las limitaciones AI . Las organizaciones deben comunicar claramente lo que AI puede y no puede hacer, asegurándose de que las partes interesadas entienden sus posibles riesgos y deficiencias.

AI se basa en grandes cantidades de data, muchos de ellos personales o sensibles, lo que plantea problemas éticos sobre privacidad y seguridad. A medida que AI evoluciona, también debe hacerlo nuestro compromiso con la protección de data personales.

Proteger data no es sólo cumplir la normativa sobre privacidad, sino respetar la autonomía de las personas sobre su información personal. La privacidad de Data debe integrarse en los sistemas AI desde el principio a través de la "privacidad por diseño", garantizando que la privacidad sea una parte fundamental del proceso de desarrollo.

Además de la privacidad, la seguridad de AI es crucial. A medida que AI se integra en infraestructuras críticas, las consecuencias de una violación de data o un ataque malicioso podrían ser desastrosas. Las organizaciones deben invertir en medidas de ciberseguridad sólidas y crear planes de contingencia para mitigar los riesgos.

Para garantizar la privacidad y la seguridad en el marketing directo al consumidor AI, la privacidad por diseño y la seguridad por diseño deben ser fundamentales. Esto significa definir estrategias sólidas de tokenización y anonimización desde el principio y garantizar que data permanezcan protegidos durante todo su ciclo de vida.

Las implicaciones éticas de AI exigen estructuras de gobernanza sólidas. La gobernanza no consiste solo en cumplir las normas, sino en crear sistemas de rendición de cuentas que guíen el ciclo de vida de AI, desde el desarrollo hasta la implantación.

Una parte fundamental de la gobernanza de AI es el establecimiento de directrices éticas y mecanismos de supervisión, como consejos o comités de ética especializados que garanticen que los proyectos de AI cumplen las normas éticas. Estos comités deben incluir voces diversas, como especialistas en ética, expertos jurídicos y representantes de la comunidad.

La rendición de cuentas también es clave. Las organizaciones deben hacer un seguimiento de las decisiones tomadas por los sistemas de AI e intervenir si es necesario. Si un sistema de AI toma decisiones perjudiciales, debe haber procedimientos claros de corrección y prevención.

La gobernanza de AI también debe ser adaptable. A medida que AI evoluciona, también deben hacerlo los marcos y las políticas que la rigen. La supervisión y el ajuste continuos son necesarios para responder a los nuevos retos éticos y avances tecnológicos.

En la región de Oriente Medio y Norte de África, por mi experiencia, he sido testigo de una tendencia creciente en los sectores público y privado a establecer comités de ética de AI e iniciativas de confianza AI . Los comités de ética de AI se han convertido en una referencia central para todos los procesos relacionados con la gobernanza, la revisión y la toma de decisiones sobre políticas, prácticas, comunicaciones, investigación, productos y servicios relacionados con la ética. Además, la investigación ha descubierto que la creación de redes de voluntarios ayuda a promover una cultura ética, responsable y digna de confianza.

La adopción de AI no es un acontecimiento puntual, sino una responsabilidad permanente. El despliegue ético de AI requiere una supervisión continua para garantizar que los sistemas se ajustan a los principios éticos. Un reto importante es la "deriva", cuando los modelos se vuelven menos precisos o justos a medida que encuentran nuevos data o cambian las normas sociales.

Las organizaciones deben auditar periódicamente los sistemas AI , reentrenándolos cuando sea necesario. La supervisión ayuda a identificar sesgos, garantizar la pertinencia de los data y evaluar el rendimiento del sistema.

La supervisión de los sistemas de AI no sólo puede mejorar la transparencia, sino también el rendimiento. Según nuestra experiencia, la implementación de conjuntos de herramientas de supervisión y explicabilidad de AI con decenas de algoritmos y métodos para interpretar conjuntos de datos puede reducir los esfuerzos de supervisión de modelos en un 35-50 % y aumentar la precisión de los modelos en un 15-30 %.

La adopción responsable de AI no es sólo lo correcto, sino una ventaja competitiva. A medida que AI se generaliza, las partes interesadas -consumidores y reguladores por igual- darán prioridad a las consideraciones éticas. Las empresas que adopten prácticas éticas de AI construirán relaciones más sólidas con los clientes, atraerán mejores talentos y evitarán costosos riesgos legales y de reputación.

El futuro de AI depende de nuestra capacidad para gobernarla de forma responsable. Al dar prioridad a los valores humanos, la transparencia, la privacidad de data y una gobernanza sólida, podemos optimizar el uso de AIal tiempo que mitigamos sus riesgos. La AI ética no es solo un requisito normativo o un imperativo moral; es la base de la confianza y la innovación.