NOTICIAS / TECNOLOGÍA AI
Artefactres cosas que hay que recordar sobre la realidad de la IA:
Artefactres cosas que hay que recordar sobre la realidad de la IA:
1. La IA no es magia
La “inteligencia” de la IA no le permite cuestionar el data que representa su “alimento”. Funciona“ con lo que se le proporciona. Si la calidad del data no es pertinente, completa y fiable, el algoritmo no podrá responder a las expectativas y su respuesta al problema planteado será poco fiable.
La calidad del modelo por sí sola no determina la calidad de los resultados de salida. Éstos están directamente correlacionados con la calidad de la entrada data. La calidad por diseño es uno de los requisitos de cualquier proyecto de IA.
Garantizar y mantener la calidad data es una de las principales responsabilidades de los proyectos centrales de IA.
2. Una “artesanía” necesaria de lo artificial
Dotar al modelo de calidad data no es suficiente. Data no es directamente utilizable y el proceso requiere que los humanos realicen algunos pasos manuales.
Los modelos de aprendizaje automático son estructuras matemáticas con potencial. Al igual que los músculos humanos, necesitan ser entrenados para adaptarse al esfuerzo requerido.
Los algoritmos de IA también deben “entrenarse” en una base data. Así es como “aprenden” a ser más eficientes.
Para entrenar algoritmos, se requieren tres pasos manuales:
- Proporcionar calidad data: selección, validación, importación, evaluación de la calidad, etc.
- Prepare la base de aprendizaje: seleccionar, transformar y etiquetar el data para hacerlo utilizable. Esto último es necesario para los algoritmos supervisados y semisupervisados, en los que el data se explora, se analiza y después se “etiqueta” mediante metadata*. Si tomamos como ejemplo el reconocimiento de imágenes, el proceso de etiquetado proporciona un banco de imágenes y una descripción para cada una. Se trata de un paso manual que requiere mucho tiempo y la descripción del contenido de varios miles de fotos.
- Tren: Metodología repetitiva de selección de modelos y formación basada en el aprendizaje hasta obtener el modelo adecuado. Contrariamente a la creencia popular, la IA no es magia. No es una máquina inteligente que simplemente se alimenta de información y aprende por sí misma: el plug and play no existe.
Estos pasos manuales se traducen en reglas empresariales y metodologías clave que deben utilizarse para poder explotar adecuadamente los algoritmos e integrarlos en las infraestructuras existentes.
3. La IA eleva a los humanos, pero no sustituye su inteligencia
La IA sigue estando programada por humanos, aunque algunos algoritmos ajustan sus parámetros de forma automatizada. Si existen sesgos cognitivos durante la programación o si hay sesgos en la entrada data, la IA no los detectará y producirá un resultado sesgado que no se ajuste a los objetivos originales, o que tenga intenciones poco éticas.
En 2016, Microsoft diseñó una IA llamada Tay “para interactuar con la gente y entretenerla”. Tay se expresaba en Twitter, un canal que enriquecía a la IA a través de las interacciones con los internautas. Cuando estaba ‘libre’, Tay recopilaba toda la información que la Twitteresfera se preocupaba de compartir, para bien, o para mal...
...Tras 24 horas de existencia y 96.000 tuits, la IA se desconectó. El tono de Tay, cándido y entusiasta cuando se conectó por primera vez, había cambiado rápidamente. Enfrentada a opiniones extremas, Tay empezó a hacer comentarios racistas.
Motherboard*, uno de los sitios de referencia de la prensa tecnológica estadounidense, comentó el acontecimiento: “Rousseau tenía razón: los humanos nacen buenos, la sociedad los corrompe. Lo que no sabía es que el postulado funciona igual de bien con la máquina”.”
Aunque el ejemplo de Tay tuvo poca repercusión, una IA sesgada puede utilizarse como arma de discriminación masiva. Por ejemplo, un sistema de puntuación de candidatos que utilice una empresa puede aumentar la probabilidad de que se excluyan perfiles en función de parámetros como el sexo o el origen geográfico para ajustarse a los perfiles actuales, sin que los equipos de contratación se percaten de ello. La IA debe refinarse para eliminar los parámetros no deseados que podrían influir negativamente en el modelo.
El uso de algoritmos complejos, como las redes neuronales, no identifica los posibles sesgos. El modelo se valida en función de su capacidad para reproducir ejemplos, que deben utilizarse con precaución. La naturaleza exploratoria del modelo también permite detectar parámetros que los humanos descartarían intuitivamente, pero que tienen un impacto en el resultado deseado.
