El papel de las categorías en la IA ayer y hoy
La llegada de la IA y el aprendizaje automático ha puesto en tela de juicio las formas tradicionales de categorizar a las personas y los contenidos, lo que ha dado lugar a nuevas formas de concebir los problemas y, potencialmente, a nuevos problemas de parcialidad o discriminación.
Los sistemas tradicionales de IA se basaban en conocimientos y reglas de expertos. Por ejemplo, si un banco se planteaba conceder un préstamo a alguien, podía categorizar a los candidatos en función de atributos como el sexo, la profesión u otros data demográficos. Pero con los modelos actuales de IA de aprendizaje automático y aprendizaje profundo, se está produciendo un alejamiento de las categorías rígidas. En lugar de aplicar categorías como “mujer de una determinada edad y nivel socioeconómico”, el enfoque se ha desplazado hacia la recopilación de grandes cantidades de data conductual. Este data puede incluir cosas como transacciones bancarias o historial de navegación. La idea es que al examinar esta data granular, se pueden tomar decisiones sin basarse en categorías predefinidas que pueden reforzar la discriminación.
Este cambio no es sólo técnico: también plantea cuestiones filosóficas sobre cómo se construyen las categorías, cómo repercuten en la sociedad y las consideraciones éticas al utilizarlas en los sistemas de IA.
La Ley de AI: Personal data y responsabilidad
El panorama actual de la legislación sobre IA, ejemplificado por la Ley de IA, revela una tensión fundamental entre las categorías legislativas tradicionales y la naturaleza evolutiva de las herramientas técnicas. La Ley de la IA legisla los sistemas de IA en función de su uso en lugar de clasificarlos en categorías rígidas, reconociendo que los riesgos y las implicaciones de la IA están estrechamente ligados al contexto de uso. Por ejemplo, la Ley introduce IA versátiles capaces de aplicaciones polifacéticas. El reto consiste en estimar su riesgo, pero ¿cómo puede evaluarse el riesgo de algo cuando sus usos aún no están claramente definidos?
El paso del aprendizaje automático tradicional a una IA generativa más avanzada difumina aún más las líneas entre uso y responsabilidad. Por ejemplo, un chatbot de comercio minorista que utilice IA generativa podría utilizar herramientas internas e información sobre productos para ofrecer recomendaciones o responder a preguntas frecuentes. Pero también podría enfrentarse a un uso indebido, como consultas ofensivas destinadas a suscitar respuestas tóxicas para publicaciones en las redes sociales. Esto plantea cuestiones críticas para las empresas: ¿dónde reside la responsabilidad de gestionar estos riesgos? ¿Es únicamente responsabilidad del atacante si explota el sistema, o la responsabilidad recae también en los creadores y los que despliegan la IA?
A medida que aumenta el número de actores dentro del ecosistema de la IA, la responsabilidad se dispersa cada vez más. No sólo el que despliega el sistema de IA puede ser responsable; también puede serlo la entidad que produce el modelo fundacional. Cuando se producen incidentes, determinar quién se lleva la peor parte de la responsabilidad se convierte en una tarea compleja, especialmente cuando los actores están dispersos por diferentes organizaciones e incluso ubicaciones geográficas.
Regulación de la IA y aplicaciones empresariales éticas
Marcos como la Ley de la IA deben abordar la tensión entre los paradigmas reguladores convencionales y el dinámico panorama actual de la IA. Las estrategias reguladoras adaptables son esenciales para acomodar la naturaleza polifacética de los sistemas de IA y sus implicaciones.
Las empresas pueden aprovechar las lecciones de la categorización para perfeccionar las estrategias de segmentación de clientes, adaptar las campañas de marketing y personalizar las experiencias de los clientes. Además, al incorporar consideraciones éticas en los procesos de desarrollo de la IA, las empresas pueden mitigar los riesgos de parcialidad y discriminación, fomentando la confianza y la transparencia con las partes interesadas.
La importancia de las categorías radica en su papel como nuestro marco social para comprender y evaluar el mundo. Unas categorías bien afinadas son esenciales para representar diversas voces, especialmente las afectadas por los prejuicios de la IA. Es fundamental involucrar a una amplia gama de partes interesadas, incluidos los usuarios de la IA y las personas afectadas.
“Las categorías actúan como una lente a través de la cual podemos evaluar y abordar los matices y los sesgos potenciales de los sistemas de IA. Son cruciales para proporcionar un lenguaje común y un entendimiento entre las partes interesadas, y garantizar que la IA siga desarrollándose y desplegándose de forma responsable y ética.”Jean-Marie John-Mathews
