ACTUALITÉS / TECHNOLOGIE DE L'AI

Artefact trois choses à retenir sur la réalité de l'IA :

Artefact trois choses à retenir sur la réalité de l'IA :

1. L'IA n'est pas magique

L“”intelligence“ de l'IA ne lui permet pas de remettre en question le data qui représente sa ”nourriture“. Elle ”travaille" avec ce qui lui est fourni. Si la qualité du data n'est pas pertinente, complète et fiable, l'algorithme ne pourra pas répondre aux attentes et sa réponse au problème posé ne sera pas fiable.

La qualité du modèle ne détermine pas à elle seule la qualité des résultats obtenus. Ceux-ci sont directement liés à la qualité des données d'entrée data. La qualité dès la conception est l'une des exigences de tout projet d'IA.

Garantir et maintenir la qualité data est l'une des principales responsabilités des principaux projets d'IA.

2. Un “métier” nécessaire de l'artificiel

Il ne suffit pas de fournir au modèle la qualité data. Data n'est pas directement utilisable et le processus nécessite que des humains effectuent certaines étapes manuelles.

Les modèles d'apprentissage automatique sont des structures mathématiques dotées d'un potentiel. Tout comme les muscles humains, ils doivent être entraînés pour s'adapter à l'effort requis.

Les algorithmes d'IA doivent également s'entraîner sur une base data. C'est ainsi qu'ils “apprennent” à être plus efficaces.

Pour former les algorithmes, trois étapes manuelles sont nécessaires :

  1. Fournir la qualité data : sélection, validation, importation, évaluation de la qualité, etc.
  2. Préparer la base d'apprentissage : sélectionner, transformer et étiqueter la data pour la rendre utilisable. Ce dernier point est nécessaire pour les algorithmes supervisés et semi-supervisés, où le data est exploré, analysé et ensuite “étiqueté” par le metadata*. Si nous prenons l'exemple de la reconnaissance d'images, le processus d'étiquetage fournit une banque d'images et une description pour chacune d'entre elles. Il s'agit d'une étape manuelle et chronophage, qui nécessite la description du contenu de plusieurs milliers de photos.
  3. Train : méthodologie répétitive de sélection et de formation de modèles basée sur l'apprentissage jusqu'à l'obtention du bon modèle. Contrairement à la croyance populaire, l'IA n'est pas magique. Il ne s'agit pas d'une machine intelligente qui se nourrit simplement d'informations et apprend d'elle-même - le "plug and play" n'existe pas.

Ces étapes manuelles se traduisent par des règles commerciales et des méthodologies clés qui doivent être utilisées pour exploiter correctement les algorithmes et les intégrer dans les infrastructures existantes.

3. L'IA élève les humains, mais ne remplace pas leur intelligence

L'IA est toujours programmée par des humains, bien que certains algorithmes ajustent leurs paramètres de manière automatisée. Si des biais cognitifs existent pendant la programmation ou si des biais sont présents dans les données d'entrée, l'IA ne les détectera pas et produira un résultat biaisé qui n'est pas conforme aux objectifs initiaux ou qui a des intentions contraires à l'éthique.

En 2016, Microsoft a conçu une IA appelée Tay “pour interagir avec les gens et les divertir”. Tay s'est exprimée sur Twitter, un canal qui a enrichi l'IA grâce aux interactions avec les internautes. Lorsqu'elle est ‘libre’, Tay recueille toutes les informations que la twittersphère veut bien partager, pour le meilleur et pour le pire...

...Après 24 heures d'existence et 96 000 tweets, l'IA a été déconnectée. Le ton de Tay, franc et enthousiaste lors de sa mise en ligne, avait rapidement changé. Confrontée à des opinions extrêmes, Tay a commencé à faire des remarques racistes.

Motherboard*, l'un des sites de référence de la presse technologique américaine, a commenté l'événement : “Rousseau avait raison : l'homme naît bon, la société le corrompt. Ce qu'il ne savait pas, c'est que le postulat fonctionne aussi bien avec la machine”.”

Bien que l'exemple de Tay ait eu peu d'impact, une IA biaisée peut être utilisée comme une arme de discrimination massive. Par exemple, un système de notation des candidats utilisé par une entreprise peut augmenter la probabilité d'exclusion de profils en fonction de paramètres tels que le sexe ou l'origine géographique afin de correspondre aux profils actuels, sans que cela ne soit remarqué par les équipes de recrutement. L'IA doit être affinée pour éliminer les paramètres indésirables qui pourraient influencer négativement le modèle.

L'utilisation d'algorithmes complexes, tels que les réseaux neuronaux, ne permet pas d'identifier les biais potentiels. Le modèle est validé sur la base de sa capacité à reproduire des exemples, qu'il convient d'utiliser avec prudence. Le caractère exploratoire du modèle permet également de détecter des paramètres qui seraient intuitivement écartés par l'homme, mais qui ont un impact sur le résultat souhaité.