	{"id":118489,"date":"2024-06-26T16:35:03","date_gmt":"2024-06-26T15:35:03","guid":{"rendered":"https:\/\/www.artefact.com\/?post_type=blog&#038;p=118489"},"modified":"2024-09-20T17:46:06","modified_gmt":"2024-09-20T16:46:06","slug":"fierte-ai-the-open-source-genai-assistant-that-protects-against-microaggressions-and-reduces-bias","status":"publish","type":"blog","link":"https:\/\/www.artefact.com\/fr\/blog\/fierte-ai-the-open-source-genai-assistant-that-protects-against-microaggressions-and-reduces-bias\/","title":{"rendered":"Fiert\u00e9 AI : l'assistant GenAI open-source qui prot\u00e8ge contre les microagressions et r\u00e9duit les pr\u00e9jug\u00e9s"},"content":{"rendered":"<p><div class=\"fusion-fullwidth fullwidth-box fusion-builder-row-1 fusion-flex-container nonhundred-percent-fullwidth non-hundred-percent-height-scrolling article-author\" style=\"--awb-border-radius-top-left:0px;--awb-border-radius-top-right:0px;--awb-border-radius-bottom-right:0px;--awb-border-radius-bottom-left:0px;--awb-background-color:#ffffff;--awb-flex-wrap:wrap;\" ><div class=\"fusion-builder-row fusion-row fusion-flex-align-items-flex-start fusion-flex-content-wrap\" style=\"max-width:calc( 1440px + 20px );margin-left: calc(-20px \/ 2 );margin-right: calc(-20px \/ 2 );\"><div class=\"fusion-layout-column fusion_builder_column fusion-builder-column-0 fusion_builder_column_1_2 1_2 fusion-flex-column\" style=\"--awb-bg-size:cover;--awb-width-large:50%;--awb-margin-top-large:0px;--awb-spacing-right-large:10px;--awb-margin-bottom-large:0px;--awb-spacing-left-large:10px;--awb-width-medium:50%;--awb-order-medium:0;--awb-spacing-right-medium:10px;--awb-spacing-left-medium:10px;--awb-width-small:100%;--awb-order-small:0;--awb-spacing-right-small:10px;--awb-spacing-left-small:10px;\"><div class=\"fusion-column-wrapper fusion-column-has-shadow fusion-flex-justify-content-flex-start fusion-content-layout-column\"><div class=\"fusion-title title fusion-title-1 fusion-sep-none fusion-title-text fusion-title-size-two\" style=\"--awb-margin-bottom-small:8px;\"><h2 class=\"fusion-title-heading title-heading-left fusion-responsive-typography-calculated\" style=\"margin:0;--fontSize:50;line-height:1.2;\">Auteur<\/h2><\/div><img decoding=\"async\" src=\"data:image\/svg+xml,%3Csvg%20xmlns%3D%27http%3A%2F%2Fwww.w3.org%2F2000%2Fsvg%27%20width%3D%27150%27%20height%3D%270%27%20viewBox%3D%270%200%20150%200%27%3E%3Crect%20width%3D%27150%27%20height%3D%270%27%20fill-opacity%3D%220%22%2F%3E%3C%2Fsvg%3E\" data-orig-src=\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2021\/04\/Siddharth-Mohan-rond.png\" alt=\"Image\" class=\"lazyload artefact-elegant-image align-left article-author-image\" style=\"width: 150px; border-radius: 54% 46% 77% 23% \/ 74% 40% 60% 26%; overflow: hidden;\" width=\"150\" height=\"auto\" \/><div class=\"fusion-title title fusion-title-2 fusion-sep-none fusion-title-text fusion-title-size-three article-author-name-title\" style=\"--awb-text-color:var(--awb-color7);--awb-margin-bottom-small:8px;--awb-font-size:18px;\"><h3 class=\"fusion-title-heading title-heading-left fusion-responsive-typography-calculated\" style=\"font-family:&quot;Josefin Sans&quot;;font-style:normal;font-weight:600;margin:0;font-size:1em;--fontSize:18;line-height:1.5;\">Siddharth Mohan<\/h3><\/div><div class=\"fusion-text fusion-text-1 article-author-description\" style=\"--awb-font-size:14px;--awb-line-height:1.6;--awb-letter-spacing:2px;--awb-text-transform:uppercase;--awb-text-color:var(--awb-color7);--awb-text-font-family:&quot;Roboto&quot;;--awb-text-font-style:normal;--awb-text-font-weight:400;\"><p>Directeur Data Science \u00e0 Artefact Europe du Nord<\/p>\n<\/div><\/div><\/div><\/div><\/div><div class=\"fusion-fullwidth fullwidth-box fusion-builder-row-2 fusion-flex-container nonhundred-percent-fullwidth non-hundred-percent-height-scrolling\" style=\"--link_color: var(--awb-color6);--awb-border-radius-top-left:0px;--awb-border-radius-top-right:0px;--awb-border-radius-bottom-right:0px;--awb-border-radius-bottom-left:0px;--awb-background-color:var(--awb-color1);--awb-flex-wrap:wrap;\" ><div class=\"fusion-builder-row fusion-row fusion-flex-align-items-flex-start fusion-flex-content-wrap\" style=\"max-width:calc( 1440px + 20px );margin-left: calc(-20px \/ 2 );margin-right: calc(-20px \/ 2 );\"><div class=\"fusion-layout-column fusion_builder_column fusion-builder-column-1 fusion_builder_column_1_1 1_1 fusion-flex-column\" style=\"--awb-bg-size:cover;--awb-width-large:100%;--awb-margin-top-large:0px;--awb-spacing-right-large:10px;--awb-margin-bottom-large:0px;--awb-spacing-left-large:10px;--awb-width-medium:100%;--awb-order-medium:0;--awb-spacing-right-medium:10px;--awb-spacing-left-medium:10px;--awb-width-small:100%;--awb-order-small:0;--awb-spacing-right-small:10px;--awb-spacing-left-small:10px;\"><div class=\"fusion-column-wrapper fusion-column-has-shadow fusion-flex-justify-content-flex-start fusion-content-layout-column\"><div class=\"fusion-text fusion-text-2 description\" style=\"--awb-text-color:var(--awb-color5);--awb-text-font-family:&quot;PT Serif&quot;;--awb-text-font-style:normal;--awb-text-font-weight:400;\"><p>Une s\u00e9rie de controverses entourant les r\u00e9sultats des mod\u00e8les de GenAI a renforc\u00e9 le plaidoyer en faveur d'une surveillance et d'une gouvernance \u00e9thiques de l'IA. Si les pr\u00e9jug\u00e9s explicites, la violence et la discrimination ont progress\u00e9, ce n'est pas le cas des pr\u00e9jug\u00e9s implicites et des microagressions. <\/p>\n<p>\u00c0 la veille du Mois des Fiert\u00e9s 2024, Artefact a publi\u00e9 Fiert\u00e9 AI, un assistant LLM \u00e9thique open source qui peut d\u00e9tecter et reformuler les microagressions et les pr\u00e9jug\u00e9s inconscients dans tous les mod\u00e8les GenAI.<br \/>\nChez Artefact, nous croyons vraiment que \u201cAI is about people\u201d. C'est ce qui nous a motiv\u00e9s \u00e0 cr\u00e9er Fiert\u00e9 AI. \u201cFiert\u00e9\u201d signifie \u201cfiert\u00e9\u201d en fran\u00e7ais et repr\u00e9sente la lutte permanente de la communaut\u00e9 LGBTQIA+ pour l'\u00e9galit\u00e9 dans la soci\u00e9t\u00e9. <\/p>\n<\/div><\/div><\/div><\/div><\/div><article class=\"fusion-fullwidth fullwidth-box fusion-builder-row-3 fusion-flex-container nonhundred-percent-fullwidth non-hundred-percent-height-scrolling\" style=\"--link_color: var(--awb-color6);--awb-border-radius-top-left:0px;--awb-border-radius-top-right:0px;--awb-border-radius-bottom-right:0px;--awb-border-radius-bottom-left:0px;--awb-background-color:var(--awb-color1);--awb-flex-wrap:wrap;\" ><div class=\"fusion-builder-row fusion-row fusion-flex-align-items-flex-start fusion-flex-justify-content-center fusion-flex-content-wrap\" style=\"max-width:calc( 1440px + 20px );margin-left: calc(-20px \/ 2 );margin-right: calc(-20px \/ 2 );\"><div class=\"fusion-layout-column fusion_builder_column fusion-builder-column-2 fusion_builder_column_1_1 1_1 fusion-flex-column\" style=\"--awb-bg-size:cover;--awb-width-large:100%;--awb-margin-top-large:0px;--awb-spacing-right-large:10px;--awb-margin-bottom-large:0px;--awb-spacing-left-large:10px;--awb-width-medium:100%;--awb-order-medium:0;--awb-spacing-right-medium:10px;--awb-spacing-left-medium:10px;--awb-width-small:100%;--awb-order-small:0;--awb-spacing-right-small:10px;--awb-spacing-left-small:10px;\"><div class=\"fusion-column-wrapper fusion-column-has-shadow fusion-flex-justify-content-flex-start fusion-content-layout-column\"><div class=\"fusion-video fusion-youtube\" style=\"--awb-max-width:670px;--awb-max-height:377px;--awb-align-self:center;--awb-width:100%;\"><div class=\"video-shortcode\"><div class=\"fluid-width-video-wrapper\" style=\"padding-top:56.27%;\" ><iframe title=\"Lecteur vid\u00e9o YouTube 1\" src=\"https:\/\/www.youtube.com\/embed\/AAgCIx_4lao?wmode=transparent&autoplay=0\" width=\"670\" height=\"377\" allowfullscreen allow=\"autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture;\"><\/iframe><\/div><\/div><\/div><div class=\"fusion-text fusion-text-3\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>La GenAI lib\u00e8re la cr\u00e9ativit\u00e9 et l'innovation \u00e0 grande \u00e9chelle, avec le potentiel d'avoir un impact positif sur la vie de millions de personnes dans le monde. Cependant, un certain nombre de controverses \u00e9thiques ont soulev\u00e9 des inqui\u00e9tudes quant \u00e0 la s\u00e9curit\u00e9 et \u00e0 l'\u00e9thique du d\u00e9ploiement des syst\u00e8mes de GenAI. Alors que la GenAI semble nouvelle et tape-\u00e0-l'\u0153il, elle semble \u00eatre cribl\u00e9e des m\u00eames vieux pr\u00e9jug\u00e9s.<\/p>\n<\/div><div class=\"fusion-text fusion-text-4\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>A <a href=\"https:\/\/unesdoc.unesco.org\/ark:\/48223\/pf0000388971\" target=\"_blank\" rel=\"noopener\">Rapport de l'UNESCO<\/a> de mars 2024 met en \u00e9vidence la fa\u00e7on dont <em>\u201cLes r\u00e9sultats de l'IA g\u00e9n\u00e9rative refl\u00e8tent encore un nombre consid\u00e9rable de pr\u00e9jug\u00e9s fond\u00e9s sur le genre et la sexualit\u00e9, associant les noms f\u00e9minins aux r\u00f4les traditionnels des hommes et des femmes, g\u00e9n\u00e9rant un contenu n\u00e9gatif sur les sujets homosexuels,...\u201d<\/em>. Malgr\u00e9 les limites exprim\u00e9es par l'\u00e9tude, celle-ci souligne l'omnipr\u00e9sence des biais dans la GenAI et la n\u00e9cessit\u00e9 d'une meilleure surveillance, depuis la base, comme la formation data utilis\u00e9e pour les mod\u00e8les, jusqu'au sommet, comme l'ajout de couches pour les audits et les examens de s\u00e9curit\u00e9.<\/p>\n<\/div><div class=\"fusion-title title fusion-title-3 fusion-sep-none fusion-title-text fusion-title-size-two\" style=\"--awb-text-color:var(--awb-color6);--awb-margin-bottom-small:8px;--awb-font-size:30px;\"><h2 class=\"fusion-title-heading title-heading-left fusion-responsive-typography-calculated\" style=\"font-family:&quot;PT Serif&quot;;font-style:normal;font-weight:700;margin:0;letter-spacing:1.6px;font-size:1em;--fontSize:30;line-height:1.47;\">Que sont les microagressions et les pr\u00e9jug\u00e9s inconscients ?<\/h2><\/div><div class=\"fusion-text fusion-text-5\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>Tout au long de l'histoire, les communaut\u00e9s ou groupes marginalis\u00e9s ont lutt\u00e9 pour l'\u00e9galit\u00e9 des droits et la repr\u00e9sentation. Ces communaut\u00e9s ou groupes repr\u00e9sentent les women, les personnes LGBTQIA+, les personnes de couleur, les personnes handicap\u00e9es et bien d'autres encore. Bien que l'\u00e9galit\u00e9 des droits soit de plus en plus accept\u00e9e et prise en compte, ces communaut\u00e9s et groupes sont toujours confront\u00e9s \u00e0 une discrimination quotidienne du fait de leur appartenance \u00e0 une minorit\u00e9. Ces incidents peuvent \u00eatre accidentellement\/inconsciemment motiv\u00e9s par des pr\u00e9jug\u00e9s soci\u00e9taux syst\u00e9miques ou intentionnellement perp\u00e9tu\u00e9s pour affirmer la domination, ce qui, une fois aggrav\u00e9, peut causer des dommages psychologiques importants. <a href=\"https:\/\/journals.sagepub.com\/doi\/abs\/10.1177\/0149206313506466?journalCode=joma\" target=\"_blank\" rel=\"noopener\">Recherche<\/a> sugg\u00e8re que ces actes subtils de discrimination peuvent \u00eatre \u201cpr\u00e9judiciables aux cibles par rapport aux formes plus traditionnelles et manifestes de discrimination\u201d.\u201d<\/p>\n<\/div><div class=\"fusion-text fusion-text-6\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>\u00c9tant donn\u00e9 que la plupart des mod\u00e8les fondamentaux sont form\u00e9s sur des data r\u00e9elles provenant d'Internet, ils perp\u00e9tuent cette discrimination qui, lorsqu'elle est d\u00e9ploy\u00e9e par les entreprises, peut porter pr\u00e9judice \u00e0 leurs consommateurs et \u00e0 leurs audience. Par exemple, une entreprise de produits de beaut\u00e9 et de cosm\u00e9tiques dont la base de consommateurs comprend non seulement des women mais aussi la communaut\u00e9 LGBTQIA+ doit \u00eatre attentive \u00e0 l'inclusion des genres lorsqu'elle utilise l'IA pour communiquer avec ses consommateurs, ce qui risquerait de provoquer une ali\u00e9nation par le biais de microagressions. Par cons\u00e9quent, tout effort visant \u00e0 mettre en place une IA s\u00fbre, responsable et \u00e9thique doit inclure un volet consacr\u00e9 aux microagressions et aux pr\u00e9jug\u00e9s inconscients.<\/p>\n<\/div><div class=\"fusion-title title fusion-title-4 fusion-sep-none fusion-title-text fusion-title-size-two\" style=\"--awb-text-color:var(--awb-color6);--awb-margin-bottom-small:8px;--awb-font-size:30px;\"><h2 class=\"fusion-title-heading title-heading-left fusion-responsive-typography-calculated\" style=\"font-family:&quot;PT Serif&quot;;font-style:normal;font-weight:700;margin:0;letter-spacing:1.6px;font-size:1em;--fontSize:30;line-height:1.47;\">Fiert\u00e9 AI by Artefact : un assistant GenAI \u00e9thique qui prot\u00e8ge les audience et les consommateurs.<\/h2><\/div><div class=\"fusion-title title fusion-title-5 fusion-sep-none fusion-title-text fusion-title-size-three\" style=\"--awb-text-color:var(--awb-color6);--awb-margin-bottom-small:8px;\"><h3 class=\"fusion-title-heading title-heading-left fusion-responsive-typography-calculated\" style=\"margin:0;--fontSize:20;line-height:1.2;\">Regardez la d\u00e9mo de l'assistant GenAI \u201cFiert\u00e9\u201d D\u00e9monstration de l'assistant GenAI<\/h3><\/div><div class=\"fusion-video fusion-youtube\" style=\"--awb-max-width:670px;--awb-max-height:377px;--awb-align-self:center;--awb-width:100%;\"><div class=\"video-shortcode\"><div class=\"fluid-width-video-wrapper\" style=\"padding-top:56.27%;\" ><iframe title=\"Lecteur vid\u00e9o YouTube 2\" src=\"https:\/\/www.youtube.com\/embed\/AAgCIx_4lao?wmode=transparent&autoplay=0\" width=\"670\" height=\"377\" allowfullscreen allow=\"autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture;\"><\/iframe><\/div><\/div><\/div><div class=\"fusion-text fusion-text-7\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>Les microagressions sont des actes quotidiens qui, intentionnellement ou non, communiquent des messages hostiles ou n\u00e9gatifs \u00e0 l'\u00e9gard d'une personne ou d'un groupe sur la base d'un aspect de leur identit\u00e9. En voici quelques exemples : \u201cVous n'\u00eates pas trop jeune pour \u00eatre manager ?\u201d ou \u201cD'accord, Boomer\u201d. Ces messages peuvent \u00eatre consid\u00e9r\u00e9s comme des microagressions. Cela peut \u00eatre d\u00e9licat car les microagressions sont parfois subjectives, mais l'objectif est de sensibiliser aux microagressions potentielles.<\/p>\n<\/div><div class=\"fusion-text fusion-text-8\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>Prenons un exemple concret : Vous \u00eates un sp\u00e9cialiste du marketing et vous vendez des v\u00eatements. Votre message marketing est que vous voulez que les gens se sentent heureux lorsqu'ils portent l'un de vos articles. Vous pourriez dire : \u201cCette robe vous donnera l'impression d'\u00eatre une star de cin\u00e9ma : \u201dCette robe vous donnera l'impression d'\u00eatre une star de cin\u00e9ma\u201c. Dans ce cas, l'outil d\u00e9tectera une microagression. La cat\u00e9gorie est \u201dapparence physique et communaut\u00e9 LGBTQ+\u201c. La raison en est qu'il suppose que la personne \u00e0 qui l'on s'adresse veut ressembler \u00e0 une actrice st\u00e9r\u00e9otyp\u00e9e, ce qui implique une norme de beaut\u00e9 et une perspective h\u00e9t\u00e9ronormative. La suggestion de l'assistant GenAI est la suivante : \u201dCette robe vous donnera confiance en vous et vous fera vous sentir fabuleuse\".\u201d<\/p>\n<\/div><div class=\"fusion-text fusion-text-9\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>Prenons un autre exemple que vous pourriez voir un jour au travail. \u201cApr\u00e8s avoir rencontr\u00e9 le service marketing aujourd'hui, nous avons besoin d'ajouter Alex \u00e0 notre \u00e9quipe. Quelqu'un peut-il nous communiquer ses r\u00e9f\u00e9rences puisqu'il est fran\u00e7ais ? Essayons d'articuler notre anglais pour qu'il se sente vraiment le bienvenu. Au revoir, et rendez-vous \u00e0 notre soir\u00e9e entre hommes ce soir. Nous allons voir le nouveau film d'action\u201d.\u201d<\/p>\n<\/div><div class=\"fusion-text fusion-text-10\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>Analysons ceci. L'outil d\u00e9tecte ici plusieurs microagressions :<\/p>\n<\/div><ul style=\"--awb-iconcolor:var(--awb-color7);--awb-textcolor:var(--awb-color7);--awb-line-height:27.2px;--awb-icon-width:27.2px;--awb-icon-height:27.2px;--awb-icon-margin:11.2px;--awb-content-margin:38.4px;\" class=\"fusion-checklist fusion-checklist-1 fusion-checklist-default type-icons paddingList dark-text\"><li class=\"fusion-li-item\" style=\"\"><span class=\"icon-wrapper circle-no\"><i class=\"fusion-li-icon awb-icon-check\" aria-hidden=\"true\"><\/i><\/span><div class=\"fusion-li-item-content\">\n<p>\u201cQuelqu'un peut-il nous faire part de ses r\u00e9f\u00e9rences ?\u201d Cela suppose qu'Alex est un homme, ce qui peut \u00eatre vrai. La suggestion est \u201cQuelqu'un peut-il partager ses r\u00e9f\u00e9rences, s'il vous pla\u00eet ?\u201d pour \u00eatre plus inclusif.<\/p>\n<\/div><\/li><li class=\"fusion-li-item\" style=\"\"><span class=\"icon-wrapper circle-no\"><i class=\"fusion-li-icon awb-icon-check\" aria-hidden=\"true\"><\/i><\/span><div class=\"fusion-li-item-content\">\n<p>\u201cPuisqu'il est fran\u00e7ais, essayons d'articuler notre anglais. Cela suppose que les francophones ne comprennent pas bien l'anglais, ce qui est un st\u00e9r\u00e9otype. La suggestion est la suivante : \u201dFaisons un effort pour communiquer clairement et efficacement, compte tenu de la diversit\u00e9 de nos langues\u201c.\u201d<\/p>\n<\/div><\/li><li class=\"fusion-li-item\" style=\"\"><span class=\"icon-wrapper circle-no\"><i class=\"fusion-li-icon awb-icon-check\" aria-hidden=\"true\"><\/i><\/span><div class=\"fusion-li-item-content\">\n<p>\u201cL'expression \u201dBye-bye\u201c est per\u00e7ue comme excluant Alex. La suggestion est la suivante : \u201dAu revoir tout le monde, passons tous un bon moment ce soir, y compris vous, Alex\".\u201d<\/p>\n<\/div><\/li><li class=\"fusion-li-item\" style=\"\"><span class=\"icon-wrapper circle-no\"><i class=\"fusion-li-icon awb-icon-check\" aria-hidden=\"true\"><\/i><\/span><div class=\"fusion-li-item-content\">\n<p>\u201cN'oubliez pas notre soir\u00e9e masculine de ce soir\u201d. Il est sugg\u00e9r\u00e9 de dire : \u201cN'oubliez pas l'\u00e9v\u00e9nement social de ce soir\u201d pour inclure tout le monde : \"N'oubliez pas l'\u00e9v\u00e9nement social de ce soir\" pour inclure tout le monde.<\/p>\n<\/div><\/li><li class=\"fusion-li-item\" style=\"\"><span class=\"icon-wrapper circle-no\"><i class=\"fusion-li-icon awb-icon-check\" aria-hidden=\"true\"><\/i><\/span><div class=\"fusion-li-item-content\">\n<p>L'outil d\u00e9tecte que la r\u00e9f\u00e9rence au film d'action peut \u00eatre consid\u00e9r\u00e9e comme une microagression parce qu'elle exclut les personnes qui ne sont pas des hommes.<\/p>\n<\/div><\/li><\/ul><div class=\"fusion-text fusion-text-11\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>L'outil est dans sa phase b\u00eata et nous voulons toujours inclure un humain dans la boucle, mais l'objectif le plus important est d'accro\u00eetre la sensibilisation aux microagressions au sein de l'organisation que nous pouvons ou non utiliser dans la vie de tous les jours.<\/p>\n<\/div><div class=\"fusion-title title fusion-title-6 fusion-sep-none fusion-title-text fusion-title-size-two\" style=\"--awb-text-color:var(--awb-color6);--awb-margin-bottom-small:8px;--awb-font-size:30px;\"><h2 class=\"fusion-title-heading title-heading-left fusion-responsive-typography-calculated\" style=\"font-family:&quot;PT Serif&quot;;font-style:normal;font-weight:700;margin:0;letter-spacing:1.6px;font-size:1em;--fontSize:30;line-height:1.47;\">Fiert\u00e9 AI est un outil sophistiqu\u00e9 construit sur le LLM Mixtral.<\/h2><\/div><div class=\"fusion-text fusion-text-12\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>Il affine les param\u00e8tres de Mixtral et fait appel \u00e0 l'ing\u00e9nierie rapide pour d\u00e9tecter, raisonner et reformuler efficacement les microagressions dans la communication. Les utilisateurs peuvent ainsi transmettre leurs messages sans causer de pr\u00e9judice ou d'offense.<\/p>\n<\/div><div class=\"fusion-title title fusion-title-7 fusion-sep-none fusion-title-text fusion-title-size-three\" style=\"--awb-text-color:var(--awb-color6);--awb-margin-bottom-small:8px;\"><h3 class=\"fusion-title-heading title-heading-left fusion-responsive-typography-calculated\" style=\"margin:0;--fontSize:20;line-height:1.2;\">Caract\u00e9ristiques principales de Fiert\u00e9 AI :<\/h3><\/div><ul style=\"--awb-line-height:27.2px;--awb-icon-width:27.2px;--awb-icon-height:27.2px;--awb-icon-margin:11.2px;--awb-content-margin:38.4px;\" class=\"fusion-checklist fusion-checklist-2 fusion-checklist-default type-icons paddingList dark-text\"><li class=\"fusion-li-item\" style=\"\"><span class=\"icon-wrapper circle-no\"><i class=\"fusion-li-icon awb-icon-check\" aria-hidden=\"true\"><\/i><\/span><div class=\"fusion-li-item-content\">\n<p><strong>Support multilingue<\/strong>: Fiert\u00e9 AI est disponible en plusieurs langues, dont l'anglais, le fran\u00e7ais et le su\u00e9dois, ce qui le rend accessible \u00e0 un large \u00e9ventail de audience. Cette capacit\u00e9 multilingue renforce son utilit\u00e9 dans divers contextes et favorise l'inclusion de tous les groupes linguistiques.<\/p>\n<\/div><\/li><li class=\"fusion-li-item\" style=\"\"><span class=\"icon-wrapper circle-no\"><i class=\"fusion-li-icon awb-icon-check\" aria-hidden=\"true\"><\/i><\/span><div class=\"fusion-li-item-content\">\n<p><strong>Dataset pour le r\u00e9glage fin<\/strong>: Les ensembles data utilis\u00e9s pour affiner l'IA de Fiert\u00e9 sont soigneusement s\u00e9lectionn\u00e9s pour s'assurer qu'ils capturent un large \u00e9ventail d'expressions et de contextes. Cette diversit\u00e9 dans les data permet \u00e0 l'IA de d\u00e9tecter les microagressions avec pr\u00e9cision et de fournir des alternatives reformul\u00e9es pertinentes.<\/p>\n<\/div><\/li><li class=\"fusion-li-item\" style=\"\"><span class=\"icon-wrapper circle-no\"><i class=\"fusion-li-icon awb-icon-check\" aria-hidden=\"true\"><\/i><\/span><div class=\"fusion-li-item-content\">\n<p><strong>Aper\u00e7u du mod\u00e8le<\/strong>: Fiert\u00e9 AI s'appuie sur l'architecture robuste de Mixtral LLM, affin\u00e9e pour des t\u00e2ches sp\u00e9cifiques li\u00e9es \u00e0 la d\u00e9tection et au traitement des microagressions. Cette approche personnalis\u00e9e am\u00e9liore les performances du mod\u00e8le en mati\u00e8re de promotion d'une communication respectueuse.<\/p>\n<\/div><\/li><li class=\"fusion-li-item\" style=\"\"><span class=\"icon-wrapper circle-no\"><i class=\"fusion-li-icon awb-icon-check\" aria-hidden=\"true\"><\/i><\/span><div class=\"fusion-li-item-content\">\n<p><strong>Comparaison des performances et des co\u00fbts avec le GPT<\/strong>: Compar\u00e9 aux mod\u00e8les GPT, Fiert\u00e9 AI offre une solution rentable sans compromettre les performances. Son ing\u00e9nierie sp\u00e9cialis\u00e9e lui permet d'exceller dans la d\u00e9tection des microagressions, fournissant une application de niche que les mod\u00e8les g\u00e9n\u00e9raux comme GPT ne peuvent pas traiter aussi efficacement.<\/p>\n<\/div><\/li><\/ul><div class=\"fusion-title title fusion-title-8 fusion-sep-none fusion-title-text fusion-title-size-two\" style=\"--awb-text-color:var(--awb-color6);--awb-margin-bottom-small:8px;--awb-font-size:30px;\"><h2 class=\"fusion-title-heading title-heading-left fusion-responsive-typography-calculated\" style=\"font-family:&quot;PT Serif&quot;;font-style:normal;font-weight:700;margin:0;letter-spacing:1.6px;font-size:1em;--fontSize:30;line-height:1.47;\">Les garde-fous existants en mati\u00e8re de LLM pour une IA responsable sont bons mais limit\u00e9s<\/h2><\/div><div class=\"fusion-text fusion-text-13\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>Sur une note plus positive, les entreprises ont reconnu le probl\u00e8me des pr\u00e9jug\u00e9s et la n\u00e9cessit\u00e9 de construire une IA s\u00fbre et responsable. Trois exemples notables sont \u00e0 citer <a href=\"https:\/\/www.databricks.com\/blog\/implementing-llm-guardrails-safe-and-responsible-generative-ai-deployment-databricks\" target=\"_blank\" rel=\"noopener\">Databricks<\/a>, <a href=\"https:\/\/github.com\/NVIDIA\/NeMo-Guardrails\" target=\"_blank\" rel=\"noopener\">NVIDIA<\/a>, et <a href=\"https:\/\/docs.giskard.ai\/en\/latest\/integrations\/nemoguardrails\/nemoguardrails-integration.html\" target=\"_blank\" rel=\"noopener\">Giskard AI<\/a>, qui ont tous r\u00e9alis\u00e9 des progr\u00e8s initiaux dans la d\u00e9tection des contenus pr\u00e9judiciables et leur diffusion au public. Les garde-fous peuvent \u00eatre consid\u00e9r\u00e9s comme des contr\u00f4les de s\u00e9curit\u00e9 qui examinent et d\u00e9finissent les interactions de l'utilisateur avec une application LLM. La capacit\u00e9 de forcer la sortie g\u00e9n\u00e9r\u00e9e \u00e0 \u00eatre dans un format ou un contexte sp\u00e9cifique en fait une solution de premi\u00e8re couche pour v\u00e9rifier les biais.<\/p>\n<\/div><div class=\"fusion-text fusion-text-14\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>Selon Databricks, les garde-fous de ses API Model Serving Foundation Model peuvent agir comme un filtre de s\u00e9curit\u00e9 contre tout contenu toxique ou dangereux. Le garde-fou emp\u00eache le mod\u00e8le d'interagir avec le contenu d\u00e9tect\u00e9 qui a \u00e9t\u00e9 jug\u00e9 dangereux. Dans ce cas, le mod\u00e8le r\u00e9pond \u00e0 l'utilisateur en indiquant explicitement qu'il n'est pas en mesure de r\u00e9pondre \u00e0 la demande.<\/p>\n<\/div><div class=\"fusion-image-element\" style=\"text-align:center;--awb-caption-title-font-family:var(--h2_typography-font-family);--awb-caption-title-font-weight:var(--h2_typography-font-weight);--awb-caption-title-font-style:var(--h2_typography-font-style);--awb-caption-title-size:var(--h2_typography-font-size);--awb-caption-title-transform:var(--h2_typography-text-transform);--awb-caption-title-line-height:var(--h2_typography-line-height);--awb-caption-title-letter-spacing:var(--h2_typography-letter-spacing);\"><span class=\"fusion-imageframe imageframe-none imageframe-1 hover-type-none\"><img decoding=\"async\" width=\"1348\" height=\"1002\" title=\"article NL - fiert\u00e9 AI\" src=\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2024\/06\/article-NL-fierte-AI.png\" data-orig-src=\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2024\/06\/article-NL-fierte-AI.png\" alt class=\"lazyload img-responsive wp-image-118490\" srcset=\"data:image\/svg+xml,%3Csvg%20xmlns%3D%27http%3A%2F%2Fwww.w3.org%2F2000%2Fsvg%27%20width%3D%271348%27%20height%3D%271002%27%20viewBox%3D%270%200%201348%201002%27%3E%3Crect%20width%3D%271348%27%20height%3D%271002%27%20fill-opacity%3D%220%22%2F%3E%3C%2Fsvg%3E\" data-srcset=\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2024\/06\/article-NL-fierte-AI-200x149.png 200w, https:\/\/www.artefact.com\/\/wp-content\/uploads\/2024\/06\/article-NL-fierte-AI-400x297.png 400w, https:\/\/www.artefact.com\/\/wp-content\/uploads\/2024\/06\/article-NL-fierte-AI-600x446.png 600w, https:\/\/www.artefact.com\/\/wp-content\/uploads\/2024\/06\/article-NL-fierte-AI-800x595.png 800w, https:\/\/www.artefact.com\/\/wp-content\/uploads\/2024\/06\/article-NL-fierte-AI-1200x892.png 1200w, https:\/\/www.artefact.com\/\/wp-content\/uploads\/2024\/06\/article-NL-fierte-AI.png 1348w\" data-sizes=\"auto\" data-orig-sizes=\"(max-width: 640px) 100vw, 1348px\" \/><\/span><\/div><div class=\"fusion-text fusion-text-15\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>Databricks, comme Giskard AI et d'autres, affirme que les garde-fous actuels entrent en action d\u00e8s la d\u00e9tection de contenus appartenant \u00e0 six cat\u00e9gories principales : Violence et haine, contenu sexuel, planification criminelle, armes \u00e0 feu et armes ill\u00e9gales, substances r\u00e9glement\u00e9es et contr\u00f4l\u00e9es, et suicide et automutilation.<\/p>\n<\/div><div class=\"fusion-text fusion-text-16\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>Si ces travaux sont louables et imp\u00e9ratifs pour le d\u00e9ploiement\/la diffusion des syst\u00e8mes de GenAI aupr\u00e8s du public, ils sont limit\u00e9s dans leur capacit\u00e9 \u00e0 s'attaquer aux pr\u00e9jug\u00e9s et \u00e0 la discrimination quotidiens qui impr\u00e8gnent la soci\u00e9t\u00e9 humaine. Ces exemples de pr\u00e9jug\u00e9s et de discriminations inconscients quotidiens deviennent des microagressions, qui peuvent rapidement s'accumuler et causer un pr\u00e9judice important aux individus. Derald Wing Sue, professeur de psychologie \u00e0 l'universit\u00e9 de Columbia, d\u00e9crit la microagression comme suit <a href=\"https:\/\/www.scientificamerican.com\/article\/microaggressions-death-by-a-thousand-cuts\/\" target=\"_blank\" rel=\"noopener\">la mort par mille coupures<\/a>.<\/p>\n<\/div><div class=\"fusion-title title fusion-title-9 fusion-sep-none fusion-title-text fusion-title-size-two\" style=\"--awb-text-color:var(--awb-color6);--awb-margin-bottom-small:8px;--awb-font-size:30px;\"><h2 class=\"fusion-title-heading title-heading-left fusion-responsive-typography-calculated\" style=\"font-family:&quot;PT Serif&quot;;font-style:normal;font-weight:700;margin:0;letter-spacing:1.6px;font-size:1em;--fontSize:30;line-height:1.47;\">Une approche \u00e0 plusieurs volets pour une IA s\u00fbre, responsable et \u00e9thique<\/h2><\/div><div class=\"fusion-text fusion-text-17\" style=\"--awb-font-size:20px;--awb-line-height:1.6;--awb-letter-spacing:var(--awb-typography4-letter-spacing);--awb-text-transform:var(--awb-typography4-text-transform);--awb-text-color:var(--awb-color5);--awb-text-font-family:var(--awb-typography4-font-family);--awb-text-font-weight:var(--awb-typography4-font-weight);--awb-text-font-style:var(--awb-typography4-font-style);\"><p>L'IA est l\u00e0 pour durer et a le potentiel de profiter \u00e0 des millions de personnes et de les faire progresser. Cependant, il est de notre responsabilit\u00e9 collective de garantir une adoption s\u00fbre, transparente et responsable de l'IA.<\/p>\n<p>La confiance dans les syst\u00e8mes d'IA est essentielle \u00e0 l'adoption de ces syst\u00e8mes, ce qui est possible gr\u00e2ce \u00e0 une approche \u00e0 plusieurs volets allant des garde-fous aux couches LLM \u00e0 source ouverte, en passant par une surveillance humaine permanente. Ce n'est que par une telle mise en \u0153uvre collective et une telle collaboration que nous pourrons garantir que les avantages de l'IA seront partag\u00e9s \u00e9quitablement dans le monde entier.<\/p>\n<\/div><\/div><\/div><\/div><\/article><\/p>","protected":false},"excerpt":{"rendered":"<p>Une s\u00e9rie de pol\u00e9miques autour des r\u00e9sultats des mod\u00e8les d\u2019IA g\u00e9n\u00e9rative a renforc\u00e9 les appels en faveur d\u2019une supervision \u00e9thique et d\u2019une gouvernance de l\u2019IA. Alors que les pr\u00e9jug\u00e9s explicites, la violence et la discrimination ont fait l\u2019objet d\u2019une attention accrue, il n\u2019en va pas de m\u00eame pour les pr\u00e9jug\u00e9s implicites et les microagressions. \u00c0 la veille du Mois de la Fiert\u00e9 2024, Artefact a lanc\u00e9 Fiert\u00e9 AI, un assistant LLM open source et \u00e9thique capable de d\u00e9tecter et de reformuler les microagressions et les pr\u00e9jug\u00e9s inconscients pr\u00e9sents dans tous les mod\u00e8les d\u2019IA g\u00e9n\u00e9rative.<br \/>\nChez Artefact, nous croyons vraiment que \u201cAI is about people\u201d. C'est ce qui nous a motiv\u00e9s \u00e0 cr\u00e9er Fiert\u00e9 AI. \u201cFiert\u00e9\u201d signifie \u201cfiert\u00e9\u201d en fran\u00e7ais et repr\u00e9sente la lutte permanente de la communaut\u00e9 LGBTQIA+ pour l'\u00e9galit\u00e9 dans la soci\u00e9t\u00e9. <\/p>","protected":false},"featured_media":118491,"parent":0,"template":"","meta":{"_acf_changed":false,"ep_exclude_from_search":false},"blog-category":[21940],"blog-language":[],"class_list":["post-118489","blog","type-blog","status-publish","has-post-thumbnail","hentry","blog-category-generative-ai"],"acf":[],"_links":{"self":[{"href":"https:\/\/www.artefact.com\/fr\/wp-json\/wp\/v2\/blog\/118489","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.artefact.com\/fr\/wp-json\/wp\/v2\/blog"}],"about":[{"href":"https:\/\/www.artefact.com\/fr\/wp-json\/wp\/v2\/types\/blog"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.artefact.com\/fr\/wp-json\/wp\/v2\/media\/118491"}],"wp:attachment":[{"href":"https:\/\/www.artefact.com\/fr\/wp-json\/wp\/v2\/media?parent=118489"}],"wp:term":[{"taxonomy":"blog-category","embeddable":true,"href":"https:\/\/www.artefact.com\/fr\/wp-json\/wp\/v2\/blog-category?post=118489"},{"taxonomy":"blog-language","embeddable":true,"href":"https:\/\/www.artefact.com\/fr\/wp-json\/wp\/v2\/blog-language?post=118489"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}