![\"Jaune](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2022\/10\/LOGOJR_fav.jpeg\" "\\"Jaune-Rouge-Logo\\"")
<\/span><\/div>La science-fiction regorge d'histoires d'IA rebelles, o\u00f9 les machines agissent selon leur propre syst\u00e8me de valeurs n\u00e9fastes. Souvenez-vous de HAL 9000 dans L'Odyss\u00e9e de l'espace ou de Skynet dans Terminator. Mais dans la vie r\u00e9elle, les syst\u00e8mes et algorithmes d'IA ont \u00e9t\u00e9 largement int\u00e9gr\u00e9s dans les activit\u00e9s quotidiennes telles que les achats en ligne, les demandes de pr\u00eats ou la consultation des r\u00e9seaux sociaux. Si les cas d'IA ren\u00e9gate restent heureusement l'apanage des auteurs, les d\u00e9rives et dysfonctionnements de l'IA sont devenus monnaie courante, et ils ont souvent des cons\u00e9quences bien r\u00e9elles.\u00a0 Nous avons tous vu les images g\u00e9n\u00e9r\u00e9es par des IA comme Dall-E 2. Il est innocent de cr\u00e9er l'image d'un ours en peluche \u00e9coutant de la musique sous l'eau. Mais savez-vous que les algorithmes <\/a>utilis\u00e9s perp\u00e9tuent les st\u00e9r\u00e9otypes de genre en surrepr\u00e9sentant les hommes dans les images de m\u00e9decins, de pilotes et de PDG, tout en surrepr\u00e9sentant les women dans les images d'infirmi\u00e8res, d'h\u00f4tesses de l'air et de secr\u00e9taires ?<\/p>\n Compte tenu du nombre massif de d\u00e9cisions quotidiennes d\u00e9l\u00e9gu\u00e9es \u00e0 l'IA, nous ne pouvons ignorer les questions \u00e9thiques soulev\u00e9es par son utilisation. L'IA reste un march\u00e9 et une technologie encore peu l\u00e9gif\u00e9r\u00e9s (m\u00eame si la Commission europ\u00e9enne travaille activement \u00e0 une future r\u00e9glementation). Il est donc de la responsabilit\u00e9 de chacun de prot\u00e9ger les utilisateurs.<\/p>\n Le d\u00e9fi de l'IA est de cr\u00e9er des syst\u00e8mes dignes de confiance. par conception<\/em> qui r\u00e9pondent aux attentes \u00e9thiques de notre soci\u00e9t\u00e9. Il est imp\u00e9ratif que nous nous pr\u00e9parions, d\u00e8s maintenant, \u00e0 concevoir et \u00e0 maintenir des syst\u00e8mes d'IA fiables. Il s'agit d'une vaste entreprise : l'\u00e9thique est un sujet qui se construit tout au long du cycle de vie d'un produit.<\/p>\n<\/div> L'intelligence artificielle est un ensemble de th\u00e9ories et de techniques qui permettent \u00e0 une machine de prendre des d\u00e9cisions face \u00e0 une situation pr\u00e9d\u00e9finie. En d'autres termes, elle simule l'intelligence humaine. Ces programmes peuvent \u00eatre d\u00e9terministe<\/strong>, o\u00f9 des r\u00e8gles successives sont appliqu\u00e9es selon un sch\u00e9ma d\u00e9cisionnel, ou probabiliste<\/strong>, Il s'agit d'un programme qui, apr\u00e8s avoir tir\u00e9 des enseignements de situations ant\u00e9rieures similaires, peut d\u00e9duire \u00e0 quoi devrait ressembler la \u2018bonne\u2019 d\u00e9cision. C'est ce que l'on appelle aussi l'apprentissage automatique.<\/strong><\/p>\n Quel que soit le type de programme, l'IA est l'automatisation de la prise de d\u00e9cision. Les risques \u00e9thiques ne r\u00e9sident pas dans le fait que l'IA puisse mal automatiser, mais au contraire qu'elle imite parfaitement les d\u00e9cisions humaines, avec leur lot d'erreurs et de biais. Beaucoup de ces dysfonctionnements proviennent du contexte culturel dans lequel l'IA a \u00e9t\u00e9 d\u00e9velopp\u00e9e, lorsqu'elle reproduit les syst\u00e8mes de valeurs historiques d'une soci\u00e9t\u00e9 (in\u00e9galit\u00e9 de genre ou ethnique, par exemple) ou ceux de ses concepteurs (\u00e9ducation, sensibilit\u00e9 politique, pratiques religieuses, etc.).<\/p>\n Ces biais sont particuli\u00e8rement fr\u00e9quents dans les algorithmes d'apprentissage automatique puisqu'ils sont form\u00e9s sur des bases data existantes, d\u00e9duisant l'avenir \u00e0 partir du pass\u00e9.<\/p>\n Les questions essentielles li\u00e9es \u00e0 la conception et au d\u00e9veloppement d'un cycle de vie de l'IA digne de confiance concernent \u00e0 la fois des aspects techniques et \u00e9thiques, tels que : comment d\u00e9tecter de mani\u00e8re fiable les \u00e9ventuels biais d'une IA ? Comment interpr\u00e9ter les r\u00e9sultats d'un mod\u00e8le ? Peut-on mesurer l'\u00e9volution des performances d'une IA ? Quelles garanties de s\u00e9curit\u00e9 pouvons-nous fournir ? Peut-on r\u00e9agir \u00e0 une d\u00e9rive ? Cette liste non exhaustive refl\u00e8te la diversit\u00e9 des d\u00e9fis \u00e0 relever lors de la production d'une IA.<\/p>\n<\/div> Alors que les mod\u00e8les d'IA sont pass\u00e9s du stade de concepts \u00e0 celui de produits, de nombreuses solutions techniques ont \u00e9t\u00e9 cr\u00e9\u00e9es pour faciliter l'automatisation et le d\u00e9ploiement des syst\u00e8mes d'IA. R\u00e9cemment, le nombre de solutions techniques disponibles a explos\u00e9, cr\u00e9ant un riche \u00e9cosyst\u00e8me aliment\u00e9 par l'innovation constante des start-ups et des leaders de l'industrie. Parmi les exemples notables, on peut citer le Alliance pour l'infrastructure de l'IA<\/a> et le Communaut\u00e9 MLOps<\/a>, dont Artefact est membre. Trouver le bon outil pour la bonne t\u00e2che devient donc de plus en plus important, et de plus en plus difficile.<\/p>\n Parall\u00e8lement, un \u00e9cosyst\u00e8me tout aussi dynamique de cabinets de conseil s'est d\u00e9velopp\u00e9 pour aider leurs clients \u00e0 faire ces choix strat\u00e9giques.<\/p>\n Nombre de ces solutions techniques existent en open source et sont librement accessibles \u00e0 tous. Ces bo\u00eetes \u00e0 outils permettent de d\u00e9tecter et de mesurer les biais tout au long de la cha\u00eene de traitement des data : de la collecte \u00e0 l'exploitation, en passant par la transformation et la mod\u00e9lisation. Ces solutions doivent \u00eatre mises en \u0153uvre tout au long du cycle de vie du produit, tant au niveau de la conception et du d\u00e9veloppement qu'au niveau de la production, afin d'assurer une correction permanente. Trois domaines particuliers peuvent \u00eatre trait\u00e9s par des solutions techniques.<\/p>\n<\/div> Les pr\u00e9jug\u00e9s ne proviennent pas des scientifiques data, mais des datasets. C'est pourquoi il est n\u00e9cessaire d'explorer et de r\u00e9fl\u00e9chir en profondeur aux dataensembles en premier lieu. Les biais peuvent \u00eatre \u00e0 la fois techniques (variables omises, database ou probl\u00e8mes de s\u00e9lection) et sociaux (\u00e9conomiques, cognitifs, \u00e9motionnels).<\/p>\n Pour rectifier les jeux d'entra\u00eenement, il pourrait sembler logique d'effacer toute trace de data sensible. Cependant, cela serait aussi inutile que dangereux : d'une part, parce que data non sensible peut \u00eatre insidieusement corr\u00e9l\u00e9e \u00e0 data sensible, et d'autre part parce que ce type de raccourci incite \u00e0 limiter les contr\u00f4les r\u00e9guliers de data et des processus.<\/p>\n Pour d\u00e9tecter ces biais, il faut \u00eatre conscient de leur existence et savoir \u00e0 quoi s'attendre. Il est important de comprendre le contexte du data afin de l'interpr\u00e9ter correctement. Un programme unique ne peut pas identifier les biais, d'o\u00f9 l'importance d'\u00e9quipes diversifi\u00e9es de scientifiques du data.<\/p>\n C'est en r\u00e9fl\u00e9chissant de mani\u00e8re critique aux diff\u00e9rentes mesures associ\u00e9es \u00e0 un mod\u00e8le d'IA que nous pouvons identifier et rectifier les probl\u00e8mes. Prenons l'exemple d'un mod\u00e8le qui doit d\u00e9tecter une maladie pr\u00e9sente chez 1% de la population. Si le mod\u00e8le pr\u00e9dit toujours que la personne est en bonne sant\u00e9, il aura un taux de pr\u00e9cision de 99%. Sans contexte, il s'agit d'un excellent score. Pourtant, ce mod\u00e8le est inutile.<\/p>\n L'utilisation de statistiques de base, univari\u00e9es et bivari\u00e9es dataset permet d'identifier certains biais. Par exemple, chaque groupe d'\u00e2ge est-il repr\u00e9sent\u00e9 de mani\u00e8re suffisamment \u00e9gale ? Une solution pourrait consister \u00e0 remplacer les data continues par des data cat\u00e9gorielles. Les matrices de corr\u00e9lation permettent \u00e9galement de valider les liens entre deux variables li\u00e9es. Tout ce travail en amont est crucial pour s'assurer que les mod\u00e8les sont entra\u00een\u00e9s sur des ensembles de data de qualit\u00e9. En r\u00e9sum\u00e9 : \u201cGarbage in, garbage out\u201d.<\/span><\/p>\n<\/div> Les syst\u00e8mes d'IA performants, tels que les r\u00e9seaux neuronaux artificiels, sont tr\u00e8s efficaces et utilis\u00e9s dans de nombreux cas. Cependant, ils sont difficiles \u00e0 interpr\u00e9ter, c'est pourquoi on les appelle souvent des \u201cmod\u00e8les de bo\u00eete noire\u201d. Le grand d\u00e9fi de l'apprentissage automatique est d'identifier et d'expliquer la cause des biais plut\u00f4t que d'en rejeter les cons\u00e9quences. Il y a un compromis \u00e0 faire entre l'explicabilit\u00e9 et la pr\u00e9cision. Certains algorithmes, comme les arbres de d\u00e9cision, sont tr\u00e8s explicables, mais moins utiles pour les pr\u00e9dictions plus complexes.<\/p>\n Le domaine de l'IA explicable (Ex-AI) tente de r\u00e9soudre ce probl\u00e8me en d\u00e9veloppant des m\u00e9thodes et des algorithmes qui augmentent la capacit\u00e9 d'explication des syst\u00e8mes. On peut explorer soit la compr\u00e9hension globale, qui explique comment une IA fonctionne sur la population mondiale, soit la compr\u00e9hension locale, qui explique comment l'algorithme fonctionne sur un exemple sp\u00e9cifique. Ce dernier point est impos\u00e9 par le GDPR car, pour \u00eatre transparente, une IA doit \u00eatre en mesure d'expliquer pourquoi le mod\u00e8le a pris une certaine d\u00e9cision pour une personne\/objet\/data ligne particuli\u00e8re. Il est important d'examiner la compr\u00e9hension globale et locale pour comprendre comment le mod\u00e8le se comporte.<\/p>\n Pour ce faire, les scientifiques de data peuvent examiner les variables importantes du mod\u00e8le. Par exemple, il n'est pas normal qu'un mod\u00e8le de recrutement ait le sexe comme variable importante. Ils peuvent \u00e9galement v\u00e9rifier des param\u00e8tres tels que pr\u00e9cision<\/em> (nombre de positifs bien pr\u00e9dits = vrai positif divis\u00e9 par tous les positifs pr\u00e9dits = vrai positif + faux positif), score F1 (r\u00e9sume les valeurs de la pr\u00e9cision et de l'exactitude). rappel<\/em> dans une seule m\u00e9trique), ou rappel<\/em> (nombre de positifs bien pr\u00e9dits = vrai positif divis\u00e9 par tous les positifs = vrai positif + faux n\u00e9gatif), par rapport \u00e0 une variable (par exemple, pr\u00e9cision pour women par rapport aux hommes).<\/p>\n<\/div> Les sources de dysfonctionnement des mod\u00e8les d'intelligence artificielle peuvent \u00eatre accidentelles, lorsque data est corrompu, ou intentionnelles, lorsqu'elles sont caus\u00e9es par des pirates informatiques par exemple. Ces deux sources de biais conduisent les mod\u00e8les d'intelligence artificielle \u00e0 commettre des erreurs en fournissant des pr\u00e9dictions ou des r\u00e9sultats incorrects. Certaines solutions permettent d'\u00e9valuer, de d\u00e9fendre et de v\u00e9rifier les mod\u00e8les et les applications d'apprentissage automatique contre des menaces contradictoires qui peuvent cibler le data (empoisonnement du data), le mod\u00e8le (fuite du mod\u00e8le) ou l'infrastructure sous-jacente, \u00e0 la fois mat\u00e9rielle et logicielle.<\/p>\n<\/div> Source des photos : https:\/\/arxiv.org\/pdf\/1412.6572.pdf<\/a><\/em><\/p>\n \u00a0<\/span><\/p>\n<\/div> En superposant simplement une image \u2018bruit\u2019 \u00e0 une image normale, un classificateur peut \u00eatre amen\u00e9 \u00e0 confondre un panda avec un gibbon. La diff\u00e9rence est imperceptible pour l'\u0153il humain, mais cette technique est bien document\u00e9e comme \u00e9tant capable d'induire en erreur les mod\u00e8les d'intelligence artificielle. La notion d'IA digne de confiance ne peut \u00eatre r\u00e9duite \u00e0 sa conception juridique et technique. Les aspects humains et organisationnels sont cruciaux pour le succ\u00e8s d'une approche \u00e9thique de l'IA. Les chartes \u00e9thiques et les solutions d'am\u00e9lioration doivent \u00eatre connues de toutes les parties prenantes, appliqu\u00e9es tout au long du processus de cr\u00e9ation et suivies dans le temps. Cela n\u00e9cessite une transformation de la culture de l'organisation afin d'int\u00e9grer en profondeur les questions et les approches \u00e9thiques, de garantir la durabilit\u00e9 des solutions et de contribuer \u00e0 une IA \u00e9thique. par conception<\/em>.<\/p>\n L'IA en elle-m\u00eame n'est ni \u00e9thique ni contraire \u00e0 l'\u00e9thique. Ce n'est que la mani\u00e8re dont le syst\u00e8me est form\u00e9 ou utilis\u00e9 qui est \u00e9thique ou non. Le v\u00e9ritable risque \u00e9thique li\u00e9 \u00e0 l'utilisation massive de l'IA n'est donc pas que les algorithmes se r\u00e9voltent. Au contraire, le risque survient pr\u00e9cis\u00e9ment lorsque l'IA se comporte exactement comme nous lui avons demand\u00e9 de le faire, en imitant nos biais, en r\u00e9p\u00e9tant nos erreurs et en renfor\u00e7ant nos incertitudes et nos impr\u00e9cisions.<\/p>\n Ce sujet nous tient \u00e0 c\u0153ur \u00e0 Artefact<\/a>, C'est pourquoi nous y avons consacr\u00e9 des \u00e9quipes et avons d\u00e9velopp\u00e9 un soutien sp\u00e9cifique en mati\u00e8re de d\u00e9veloppement de la gouvernance, de mise en \u0153uvre de solutions techniques et de conseil en strat\u00e9gie d'IA.<\/p>\n Nous travaillons en \u00e9troite collaboration avec le monde universitaire, en tant que partenaire de la Bon dans la technologie<\/a> cofond\u00e9e par l'Institut Mines-T\u00e9l\u00e9com et Sciences Po, pour r\u00e9duire l'\u00e9cart entre la recherche et la pratique. Artefact a \u00e9galement re\u00e7u le label Responsible and Trusted AI, d\u00e9cern\u00e9 par l'association ind\u00e9pendante Labelia Labs<\/a>, qui garantit un haut niveau de maturit\u00e9 en mati\u00e8re d'IA responsable et digne de confiance.<\/p>\n La question de l'\u00e9thique nous concerne tous et il est essentiel d'\u00eatre proactif sur le sujet ; l'adoption d'un comportement \u00e9thique ne doit pas \u00eatre une simple r\u00e9action. L'intelligence artificielle traverse une p\u00e9riode \u00e9volutive, o\u00f9 ses processus et son \u00e9thique sont en cours de d\u00e9finition. Dans un domaine qui n'est pas encore r\u00e9glement\u00e9, c'est \u00e0 ceux qui jouent un r\u00f4le actif de prendre les devants. En tant que d\u00e9veloppeurs, consultants et managers, il est de notre responsabilit\u00e9 de r\u00e9pondre aux attentes de toutes les parties concern\u00e9es - non seulement les clients et les utilisateurs de services, mais aussi la soci\u00e9t\u00e9 en g\u00e9n\u00e9ral - et d'utiliser le pouvoir de l'IA pour cr\u00e9er un monde meilleur.<\/p>\n<\/div><\/div><\/div><\/div><\/article><\/p>","protected":false},"excerpt":{"rendered":" Pour cr\u00e9er une IA \u00e9thique, les d\u00e9veloppeurs doivent cr\u00e9er des solutions d'IA data-driven, dignes de confiance, en les concevant d'une mani\u00e8re technique, juridique et humaniste.<\/p>","protected":false},"author":[],"featured_media":68983,"template":"","meta":{"_acf_changed":false,"ep_exclude_from_search":false},"news-category":[2819],"news-language":[311],"class_list":["post-68976","news","type-news","status-publish","has-post-thumbnail","hentry","news-category-news-france","news-language-en"],"acf":[],"_links":{"self":[{"href":"https:\/\/www.artefact.com\/fr\/wp-json\/wp\/v2\/news\/68976","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.artefact.com\/fr\/wp-json\/wp\/v2\/news"}],"about":[{"href":"https:\/\/www.artefact.com\/fr\/wp-json\/wp\/v2\/types\/news"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.artefact.com\/fr\/wp-json\/wp\/v2\/media\/68983"}],"wp:attachment":[{"href":"https:\/\/www.artefact.com\/fr\/wp-json\/wp\/v2\/media?parent=68976"}],"wp:term":[{"taxonomy":"author","embeddable":true,"href":"https:\/\/www.artefact.com\/fr\/wp-json\/wp\/v2\/author?post=68976"},{"taxonomy":"news-category","embeddable":true,"href":"https:\/\/www.artefact.com\/fr\/wp-json\/wp\/v2\/news-category?post=68976"},{"taxonomy":"news-language","embeddable":true,"href":"https:\/\/www.artefact.com\/fr\/wp-json\/wp\/v2\/news-language?post=68976"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}
\n<\/span><\/p>\n<\/div>Lutter contre les st\u00e9r\u00e9otypes par l'\u00e9thique<\/h2><\/div>
L'intelligence artificielle qui reproduit les erreurs humaines<\/h2><\/div>
Utiliser l'IA pour corriger les biais de l'IA<\/h2><\/div>
\n
Corriger les biais du pass\u00e9 dans l'IA<\/h2><\/div>
Expliquer les r\u00e9sultats d'un mod\u00e8le<\/h2><\/div>
\n
Am\u00e9liorer la robustesse d'un mod\u00e8le<\/h2><\/div>
![\"both](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2023\/02\/both-hardware-and-software.png\" "\\"le")
<\/span><\/div>
\n<\/span><\/p>\n<\/div>D\u00e9velopper des syst\u00e8mes moins humains, mais plus humanistes<\/h2><\/div>
\n
\u00catre proactif en mati\u00e8re d'IA \u00e9thique<\/h2><\/div>