{"id":61815,"date":"2021-07-27T16:15:44","date_gmt":"2021-07-27T15:15:44","guid":{"rendered":"https:\/\/www.artefact.com\/?post_type=news&p=61815"},"modified":"2024-09-20T17:45:46","modified_gmt":"2024-09-20T16:45:46","slug":"including-ethics-best-practices-in-your-data-science-project-from-day-one","status":"publish","type":"blog","link":"https:\/\/www.artefact.com\/fr\/blog\/including-ethics-best-practices-in-your-data-science-project-from-day-one\/","title":{"rendered":"Int\u00e9grer les meilleures pratiques en mati\u00e8re d'\u00e9thique dans votre projet scientifique Data d\u00e8s le premier jour"},"content":{"rendered":"

Auteur<\/h2><\/div>\"Image\"

Karim Si Larbi<\/h3><\/div>

Scientifique senior Data \u00e0 Artefact<\/p>\n<\/div><\/div><\/div><\/div><\/div>

Voici quelques lignes directrices pour \u00e9laborer des solutions d'apprentissage automatique dignes de confiance sans tomber dans des pi\u00e8ges \u00e9thiques.<\/p>\n<\/div><\/div><\/div><\/div><\/div>

<\/span><\/a><\/span>

Lisez notre article sur<\/u><\/p>\n<\/div>

<\/span><\/div>

.<\/p>\n<\/div><\/div><\/div><\/div><\/div>

Introduction<\/h2><\/div>

L'utilisation de l'apprentissage automatique comme moyen de prise de d\u00e9cision est d\u00e9sormais omnipr\u00e9sente. De nombreux services que nous utilisons tous les jours sont le r\u00e9sultat d'une d\u00e9cision prise par l'apprentissage automatique. En cons\u00e9quence, nous assistons \u00e0 une r\u00e9duction progressive de l'intervention humaine dans des domaines qui touchent \u00e0 tous les aspects de notre vie quotidienne et o\u00f9 toute d\u00e9faillance dans le jugement du mod\u00e8le algorithmique pourrait avoir des cons\u00e9quences n\u00e9fastes. Il est donc essentiel d'\u00e9tablir des lignes directrices appropri\u00e9es pour construire des solutions d'apprentissage automatique dignes de confiance et responsables, en prenant en compte l'\u00e9thique comme pilier central.<\/p>\n<\/div>

Ces derni\u00e8res ann\u00e9es, l'\u00e9thique dans l'apprentissage automatique a connu un essor important dans la recherche universitaire, avec des conf\u00e9rences majeures telles que\u00a0FACCT<\/a>\u00a0et\u00a0AIES<\/a>, ainsi que dans les grandes entreprises technologiques qui mettent en place des \u00e9quipes \u00e0 croissance rapide pour relever les d\u00e9fis \u00e9thiques.<\/p>\n<\/div>

L'IA \u00e9thique est un vaste sujet qui couvre de nombreuses questions telles que la protection de la vie priv\u00e9e, le bien-\u00eatre soci\u00e9tal et environnemental, la responsabilit\u00e9 des algorithmes, etc. Dans cet article, nous nous concentrerons principalement sur les composantes suivantes de l'\u00e9thique dans l'apprentissage automatique :\u00a0\u00e9quit\u00e9, explicabilit\u00e9 et tra\u00e7abilit\u00e9<\/strong>. Nous verrons d'abord quels sont les enjeux et pourquoi il est imp\u00e9ratif de pr\u00eater attention \u00e0 l'\u00e9thique, puis nous \u00e9tudierons comment encadrer et d\u00e9velopper votre projet d'apprentissage automatique en gardant l'\u00e9thique \u00e0 l'esprit et comment assurer le suivi de l'\u00e9thique une fois qu'il est d\u00e9ploy\u00e9 dans la production.<\/p>\n<\/div>

Pourquoi nous devons pr\u00eater attention \u00e0 l'\u00e9thique<\/h2><\/div>

Les algorithmes d'apprentissage automatique et l'ensemble des abstractions et des hypoth\u00e8ses qui les sous-tendent devenant de plus en plus complexes, il est devenu difficile d'appr\u00e9hender et de comprendre toutes les cons\u00e9quences possibles de l'ensemble du syst\u00e8me.
\nIl y a eu plusieurs exemples tr\u00e8s m\u00e9diatis\u00e9s d'algorithmes d'apprentissage automatique injustes produisant des r\u00e9sultats sous-optimaux et discriminants. Parmi ceux-ci, l'exemple bien connu du COMPAS. Le COMPAS est un logiciel commercial largement utilis\u00e9 qui mesure le risque de r\u00e9cidive d'une personne et qui a \u00e9t\u00e9 compar\u00e9 \u00e0 un jugement humain normal dans le cadre d'un projet de recherche sur la criminalit\u00e9.\u00a0\u00e9tude<\/a>\u00a0et on a d\u00e9couvert par la suite qu'il \u00e9tait biais\u00e9 \u00e0 l'\u00e9gard des Afro-Am\u00e9ricains : Le COMPAS \u00e9tait plus susceptible d'attribuer un score de risque plus \u00e9lev\u00e9 aux d\u00e9linquants afro-am\u00e9ricains qu'aux d\u00e9linquants caucasiens ayant le m\u00eame profil.<\/p>\n<\/div>

Dans le domaine du NLP, des biais de genre ont \u00e9t\u00e9 d\u00e9tect\u00e9s dans les premi\u00e8res versions de Google Translate et ont \u00e9t\u00e9 corrig\u00e9s en 2018 et plus r\u00e9cemment.<\/p>\n

Dans le domaine de l'attribution de cr\u00e9dit, Goldman Sachs a fait l'objet d'une enqu\u00eate pour avoir utilis\u00e9 un algorithme d'IA qui aurait discrimin\u00e9 women en accordant des limites de cr\u00e9dit plus importantes aux hommes qu'\u00e0 women sur leurs cartes Apple.<\/p>\n

Dans le domaine des soins de sant\u00e9, un algorithme de pr\u00e9diction des risques utilis\u00e9 sur plus de 200 millions de personnes aux \u00c9tats-Unis a r\u00e9v\u00e9l\u00e9 des pr\u00e9jug\u00e9s raciaux.<\/p>\n<\/div>

En l'absence d'un cadre clairement d\u00e9fini sur la mani\u00e8re d'analyser, d'identifier et d'att\u00e9nuer les biais, les risques de tomber dans des pi\u00e8ges \u00e9thiques peuvent \u00eatre assez \u00e9lev\u00e9s. Il est donc de plus en plus important d'\u00e9tablir des lignes directrices ad\u00e9quates afin de construire des mod\u00e8les qui produisent des r\u00e9sultats appropri\u00e9s et justes, en particulier dans les domaines impliquant des personnes. La construction d'une IA digne de confiance permet aux utilisateurs finaux de se sentir en s\u00e9curit\u00e9 lorsqu'ils l'utilisent, et aux entreprises d'exercer un plus grand contr\u00f4le sur son utilisation afin d'accro\u00eetre l'efficacit\u00e9 tout en \u00e9vitant tout pr\u00e9judice.\u00a0Pour que votre IA soit digne de confiance, vous devez commencer \u00e0 penser \u00e0 l'\u00e9thique avant m\u00eame de traiter data et de d\u00e9velopper des algorithmes.<\/strong><\/p>\n<\/div>

Comment penser \u00e0 l'\u00e9thique avant m\u00eame le d\u00e9but de votre projet<\/h2><\/div>

L'\u00e9thique doit \u00eatre prise en compte d\u00e8s le d\u00e9but d'un nouveau projet, en particulier lors de la phase de cadrage du probl\u00e8me. Vous devez avoir \u00e0 l'esprit les utilisateurs finaux cibl\u00e9s ainsi que l'objectif de la solution propos\u00e9e afin d'\u00e9tablir le bon cadre d'analyse et de gestion des risques pour identifier les pr\u00e9judices directs ou indirects qui peuvent \u00eatre induits par la solution.<\/strong>\u00a0Vous devez vous demander si, dans ces conditions, ma solution peut conduire \u00e0 des d\u00e9cisions qui pourraient \u00eatre biais\u00e9es en faveur d'un sous-groupe particulier d'utilisateurs finaux.<\/p>\n<\/div>

Il est donc essentiel d'\u00e9laborer des indicateurs de performance cl\u00e9s pour suivre les m\u00e9thodes qui assurent l'efficacit\u00e9 de votre strat\u00e9gie de gestion des risques. Un cadre solide pourrait \u00e9galement int\u00e9grer, si possible, un m\u00e9canisme de r\u00e9duction des risques \u00e9thiques.
\nLorsqu'il s'agit d'un sujet sensible pr\u00e9sentant un potentiel de risque \u00e9lev\u00e9, il est n\u00e9cessaire de prolonger le temps allou\u00e9 \u00e0 la phase d'exploration et de construction afin de proc\u00e9der \u00e0 une analyse approfondie de l'\u00e9valuation \u00e9thique et de l'impact sur l'environnement.\u00a0att\u00e9nuation des pr\u00e9jug\u00e9s<\/strong>\u00a0strat\u00e9gies.<\/p>\n<\/div>

Vous devez \u00e9galement mettre en place des m\u00e9canismes qui facilitent le travail du syst\u00e8me d'IA.\u00a0contr\u00f4labilit\u00e9<\/strong>\u00a0et\u00a0 reproductibilit\u00e9 <\/strong>. Une trace logique doit \u00eatre disponible \u00e0 des fins d'inspection afin que tout probl\u00e8me puisse \u00eatre examin\u00e9 ou faire l'objet d'une enqu\u00eate plus approfondie. Pour ce faire, il convient d'appliquer un bon niveau d'int\u00e9grit\u00e9 de la trace logique.\u00a0tra\u00e7abilit\u00e9<\/strong>\u00a0par le biais de la documentation, de l'enregistrement, du suivi et de la gestion des versions.<\/p>\n

Chaque source de data et chaque transformation de data doivent \u00e9galement \u00eatre document\u00e9es afin de rendre transparents et tra\u00e7ables les choix effectu\u00e9s pour traiter la data. Cela permet d'identifier les \u00e9tapes qui ont pu injecter ou renforcer un biais.<\/p>\n<\/div>

Comment inclure l'\u00e9thique dans l'\u00e9laboration de votre projet data<\/h2><\/div>

Pour int\u00e9grer l'\u00e9thique dans l'\u00e9laboration de votre projet data, il est important d'inclure au moins trois composantes : l'\u00e9quit\u00e9, l'explicabilit\u00e9 et la tra\u00e7abilit\u00e9.<\/p>\n<\/div>

L'\u00e9quit\u00e9<\/h3><\/div>

La premi\u00e8re \u00e9tape de la plupart des projets d'apprentissage automatique est g\u00e9n\u00e9ralement la collecte de data. Qu'il s'agisse de passer par le processus de collecte de data ou d'utiliser un ensemble de data existant, il est essentiel de savoir comment la collecte a \u00e9t\u00e9 effectu\u00e9e. En g\u00e9n\u00e9ral, il n'est pas possible d'inclure l'ensemble de la population cible, de sorte que les caract\u00e9ristiques et les \u00e9tiquettes peuvent \u00eatre \u00e9chantillonn\u00e9es \u00e0 partir d'un sous-ensemble, filtr\u00e9es sur la base de certains crit\u00e8res ou agr\u00e9g\u00e9es. Toutes ces \u00e9tapes peuvent introduire un biais statistique susceptible d'avoir des cons\u00e9quences \u00e9thiques.<\/p>\n<\/div>

Biais de repr\u00e9sentation<\/h3><\/div>

d\u00e9coule de la mani\u00e8re dont nous d\u00e9finissons et \u00e9chantillonnons une population. Par exemple, le manque de diversit\u00e9 g\u00e9ographique dans les ensembles data tels que ImageNet a mis en \u00e9vidence un biais en faveur des pays occidentaux. En cons\u00e9quence, les\u00a0biais d'\u00e9chantillonnage<\/strong>, Les tendances estim\u00e9es pour une population peuvent ne pas \u00eatre g\u00e9n\u00e9ralis\u00e9es aux data collect\u00e9es aupr\u00e8s d'une nouvelle population.<\/p>\n<\/div>

<\/span><\/div>

Il est donc n\u00e9cessaire de d\u00e9finir des protocoles de collecte de data appropri\u00e9s, d'analyser la diversit\u00e9 des data re\u00e7ues et de signaler \u00e0 l'\u00e9quipe toute lacune ou tout risque d\u00e9tect\u00e9. Vous devez collecter data de la mani\u00e8re la plus objective possible. Par exemple, en vous assurant, par le biais d'une analyse statistique, que l'\u00e9chantillon est repr\u00e9sentatif de la population ou du groupe que vous \u00e9tudiez et, dans la mesure du possible, en combinant des donn\u00e9es provenant de sources multiples afin de garantir la diversit\u00e9 des data.
\nIl est obligatoire de documenter les r\u00e9sultats et l'ensemble du processus de collecte des data.<\/p>\n<\/div>

Il existe en fait de nombreuses sources possibles de biais qui peuvent exister sous de nombreuses formes, dont certaines peuvent conduire \u00e0 des injustices dans diff\u00e9rentes t\u00e2ches d'apprentissage en aval.
\n\u00c9tant donn\u00e9 que le c\u0153ur des algorithmes d'apprentissage automatique supervis\u00e9 est la data d'apprentissage, les mod\u00e8les peuvent apprendre leur comportement \u00e0 partir de la data qui peut souffrir de l'inclusion de biais historiques ou statistiques involontaires.\u00a0Pr\u00e9jug\u00e9s historiques<\/strong>\u00a0peuvent s'infiltrer dans le processus de g\u00e9n\u00e9ration de data, m\u00eame si l'\u00e9chantillonnage et la s\u00e9lection des caract\u00e9ristiques sont parfaits. La persistance de ces biais peut conduire \u00e0 une discrimination involontaire \u00e0 l'encontre de certains groupes ou individus, ce qui peut exacerber les pr\u00e9jug\u00e9s et la marginalisation.<\/p>\n<\/div>

Toutes les sources de biais ne sont pas enracin\u00e9es dans data, le pipeline complet d'apprentissage automatique implique une s\u00e9rie de choix et de pratiques en cours de route, depuis le pr\u00e9traitement de data jusqu'au d\u00e9ploiement du mod\u00e8le.
\nIl n'est pas facile d'identifier d\u00e8s le d\u00e9part si et comment des probl\u00e8mes peuvent survenir. Une analyse approfondie est n\u00e9cessaire pour identifier les probl\u00e8mes \u00e9mergents. Selon le cas d'utilisation, le type de data et l'objectif de la t\u00e2che, diff\u00e9rentes m\u00e9thodes s'appliqueront.
\nDans cette section, nous allons explorer certaines techniques permettant d'identifier et d'att\u00e9nuer les biais \u00e9thiques \u00e0 l'aide d'un cas d'utilisation illustratif. Nous commencerons par \u00e9noncer le probl\u00e8me, puis nous verrons comment mesurer les biais et, enfin, nous utiliserons certaines techniques pour att\u00e9nuer les biais lors du pr\u00e9traitement, du traitement et du post-traitement.<\/p>\n<\/div>

\u00c9nonc\u00e9 du probl\u00e8me<\/h4><\/div>

Supposons que vous construisiez un algorithme de notation dans le secteur bancaire afin d'automatiser le targeting des clients qui b\u00e9n\u00e9ficieront ou non d'une offre sup\u00e9rieure. Vous disposez d'un ensemble data historique qui contient de nombreuses caract\u00e9ristiques sur vos data significatives concernant vos clients, ainsi que la cible binaire \u201c\u00e9ligible \u00e0 une offre premium\u201d. Les \u00e9l\u00e9ments des IIP (informations personnelles identifiables) ont \u00e9t\u00e9 pr\u00e9alablement supprim\u00e9s de l'ensemble data, de sorte qu'aucun probl\u00e8me de confidentialit\u00e9 ne se pose (\u00e0 cet \u00e9gard, le service de pr\u00e9vention des pertes de google cloud data est un excellent outil pour r\u00e9aliser la t\u00e2che de d\u00e9personnalisation de vos data sensibles).
\nCe cas d'utilisation peut sembler quelque peu fictif, mais le probl\u00e8me est proche d'un cas d'utilisation r\u00e9el que nous avons trait\u00e9 par le pass\u00e9 dans un secteur diff\u00e9rent.<\/p>\n<\/div>

Mesurer les biais<\/h4><\/div>

La premi\u00e8re \u00e9tape de l'analyse consiste \u00e0 explorer le data afin d'identifier les caract\u00e9ristiques sensibles, la valeur privil\u00e9gi\u00e9e et l'\u00e9tiquette favorable.<\/p>\n

Caract\u00e9ristiques sensibles\u00a0<\/strong>(ou parfois appel\u00e9\u00a0attributs prot\u00e9g\u00e9s<\/strong>) sont des caract\u00e9ristiques qui divisent une population en groupes qui devraient \u00eatre paritaires en termes d'avantages re\u00e7us. Ces caract\u00e9ristiques peuvent avoir un potentiel discriminatoire \u00e0 l'\u00e9gard de certains sous-groupes. Par exemple : le sexe, le genre, l'\u00e2ge, la situation familiale, la classification socio-\u00e9conomique, la situation matrimoniale, etc. et tout indicateur d\u00e9riv\u00e9 de ces caract\u00e9ristiques (par exemple, la situation g\u00e9ographique ou le montant des factures peuvent servir d'indicateurs de la classification socio-\u00e9conomique, car on a observ\u00e9 dans certaines situations qu'ils pouvaient \u00eatre fortement corr\u00e9l\u00e9s) sont des caract\u00e9ristiques sensibles.<\/p>\n

A valeur privil\u00e9gi\u00e9e<\/strong>\u00a0d'une caract\u00e9ristique sensible d\u00e9note un groupe qui a b\u00e9n\u00e9fici\u00e9, historiquement, d'un avantage syst\u00e9matique.<\/p>\n<\/div>

A \u00e9tiquette favorable<\/strong>\u00a0Au cours de la phase de pr\u00e9paration du data, des \u00e9tapes telles que la division du data, le sous-\u00e9chantillonnage ou le sur\u00e9chantillonnage, le traitement des valeurs manquantes et des valeurs aberrantes peuvent introduire des biais si elles ne sont pas effectu\u00e9es avec soin. La proportion de valeurs manquantes ou de valeurs aberrantes dans les sous-groupes pour les caract\u00e9ristiques sensibles peut constituer une premi\u00e8re \u00e9tape dans l'identification des biais. Certaines strat\u00e9gies d'imputation peuvent introduire un biais statistique, par exemple l'imputation des valeurs manquantes de la caract\u00e9ristique de l'\u00e2ge du client par sa m\u00e9diane.<\/p>\n

Dans notre exemple de notation, nous avons dessin\u00e9 le graphique de la r\u00e9partition de la formation data entre les sexes en ce qui concerne l'objectif \u201c\u00e9ligible \u00e0 une offre de prime\u201d :<\/p>\n<\/div>

<\/span><\/div>

On constate que la r\u00e9partition de la cible est d\u00e9s\u00e9quilibr\u00e9e en faveur du genre\u00a0Homme<\/em>. Posons l'hypoth\u00e8se que la valeur du privil\u00e8ge est de\u00a0Homme<\/em>\u00a0o\u00f9\u00a0sexe<\/em> est une caract\u00e9ristique sensible et l'\u00e9tiquette favorable est \u201c\u00e9ligible \u00e0 une offre premium\u201d. De plus, cela pourrait correspondre \u00e0 un biais de repr\u00e9sentation dans le data. En effet, dans un cas o\u00f9 l'\u00e9quit\u00e9 est respect\u00e9e, on pourrait s'assurer que les distributions dans le data sont totalement \u00e9quilibr\u00e9es ou correspondent aux distributions dans le data d\u00e9mographique.<\/p>\n

\u00c0 ce stade, vous pourriez \u00eatre tent\u00e9 d'\u00e9liminer simplement les caract\u00e9ristiques sensibles de votre dataset, mais il a \u00e9t\u00e9 d\u00e9montr\u00e9 que la suppression des attributs sensibles ne suffit pas n\u00e9cessairement \u00e0 rendre votre mod\u00e8le \u00e9quitable. Le mod\u00e8le pourrait utiliser d'autres caract\u00e9ristiques en corr\u00e9lation avec la caract\u00e9ristique sensible supprim\u00e9e, reproduisant ainsi des biais historiques. Par exemple, une caract\u00e9ristique A pourrait \u00eatre fortement corr\u00e9l\u00e9e \u00e0 l'\u00e2ge d'un client, de sorte que si le data est biais\u00e9 en faveur d'une certaine tranche d'\u00e2ge (un biais historique pourrait se traduire par une discrimination fond\u00e9e sur l'\u00e2ge lors de l'embauche, de la promotion, etc. En conservant la fonction sensible dans votre data, lorsque c'est n\u00e9cessaire, vous pouvez avoir un meilleur contr\u00f4le sur les mesures et l'att\u00e9nuation des pr\u00e9jug\u00e9s et de l'\u00e9quit\u00e9.<\/p>\n<\/div>

Mesures des biais<\/h4><\/div>

Il existe un grand nombre de d\u00e9finitions et de mesures de l'\u00e9quit\u00e9. Nous pouvons diviser l'\u00e9quit\u00e9 en\u00a0\u00e9quit\u00e9 individuelle<\/strong>\u00a0et\u00a0\u00e9quit\u00e9 du groupe<\/strong>. L'\u00e9quit\u00e9 individuelle donne des pr\u00e9visions similaires \u00e0 des individus similaires, tandis que l'\u00e9quit\u00e9 de groupe traite les diff\u00e9rents groupes de la m\u00eame mani\u00e8re.<\/p>\n

Pour assurer l'\u00e9quit\u00e9 du groupe, nous voulons que la probabilit\u00e9 d'un r\u00e9sultat positif soit la m\u00eame, que la personne soit ou non dans le groupe prot\u00e9g\u00e9 (par ex,\u00a0femelle<\/em>) ou non.
\nUne mesure de groupe simple consiste \u00e0 comparer le pourcentage de r\u00e9sultats favorables pour les groupes privil\u00e9gi\u00e9s et non privil\u00e9gi\u00e9s (dans notre exemple, le sexe, l'\u00e2ge et le sexe de l'enfant).\u00a0Homme<\/em>\u00a0qui sont \u201c\u00e9ligibles \u00e0 un accord de prime\u201d par rapport aux hommes et aux femmes.\u00a0Femme<\/em>\u00a0qui sont \u201c\u00e9ligibles \u00e0 une offre de prime\u201d). Vous pouvez calculer cette comparaison comme une diff\u00e9rence entre les deux pourcentages, ce qui conduit \u00e0 l'\u00e9quation suivante\u00a0diff\u00e9rence de parit\u00e9 statistique<\/strong>\u00a0m\u00e9trique (\u00e9galement appel\u00e9e\u00a0la parit\u00e9 d\u00e9mographique<\/strong>):<\/p>\n<\/div>

<\/span><\/div>

Pour qu'il n'y ait pas de diff\u00e9rence dans les r\u00e9sultats favorables entre les groupes privil\u00e9gi\u00e9s et non privil\u00e9gi\u00e9s, la diff\u00e9rence de parit\u00e9 statistique doit \u00eatre \u00e9gale \u00e0 0.
\nEn ce qui concerne la m\u00e9trique de l'\u00e9quit\u00e9 individuelle, il y a la\u00a0coh\u00e9rence<\/strong>\u00a0qui mesure le degr\u00e9 de similitude des \u00e9tiquettes pour des individus similaires \u00e0 l'aide d'un algorithme du plus proche voisin :<\/p>\n<\/div>

<\/span><\/div>

Nous ne nous attarderons pas sur ce sujet, mais le lecteur int\u00e9ress\u00e9 pourra consulter le site suivant\u00a0article<\/a>.
\nVous pouvez utiliser la biblioth\u00e8que pratique\u00a0AIF360<\/a>\u00a0qui vous permet de calculer de nombreuses mesures d'\u00e9quit\u00e9.
\nTout ce que vous avez \u00e0 faire est d'envelopper votre dataframe dans le\u00a0StandardDataset<\/em>. AIF360 utilise un\u00a0StandardDataset<\/em>\u00a0qui enveloppe un Pandas DataFrame avec de nombreux attributs et m\u00e9thodes sp\u00e9cifiques au traitement et \u00e0 la mesure des pr\u00e9jug\u00e9s \u00e9thiques. Vous pouvez ensuite l'utiliser comme entr\u00e9e de la fonction\u00a0BinaryLabelDatasetMetric<\/em> qui calculera un ensemble de mesures utiles.<\/p>\n<\/div>

\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n
params_aif<\/span> =<\/span> <\/td>\n<\/tr>\n
<\/td>\n<\/td>\n<\/tr>\n
<\/td>\n# Cr\u00e9er une norme aif360Datasets<\/span><\/td>\n<\/tr>\n
<\/td>\ntrain_standard_dataset<\/span> =<\/span> StandardDataset<\/span>(df<\/span>=<\/span>train_dataframe<\/span>,<\/td>\n<\/tr>\n
<\/td>\n**<\/span>params_aif<\/span>)<\/td>\n<\/tr>\n
<\/td>\n<\/td>\n<\/tr>\n
<\/td>\ngroupes_privil\u00e9gi\u00e9s<\/span> =<\/span> []<\/td>\n<\/tr>\n
<\/td>\ngroupes_non_privil\u00e9gi\u00e9s<\/span> =<\/span> []<\/td>\n<\/tr>\n
<\/td>\n<\/td>\n<\/tr>\n
<\/td>\ntrain_bldm<\/span> =<\/span> BinaryLabelDatasetMetric<\/span>(train_standard_dataset<\/span>,<\/td>\n<\/tr>\n
<\/td>\ngroupes_non_privil\u00e9gi\u00e9s<\/span>=<\/span>groupes_non_privil\u00e9gi\u00e9s<\/span>,<\/td>\n<\/tr>\n
<\/td>\ngroupes_privil\u00e9gi\u00e9s<\/span>=<\/span>groupes_privil\u00e9gi\u00e9s<\/span>)<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>

Une fois mesur\u00e9e sur la formation data de notre exemple de notation, nous observons une diff\u00e9rence de parit\u00e9 statistique moyenne de -0,21, ce qui indique que le groupe privil\u00e9gi\u00e9\u00a0Homme<\/em>\u00a0a obtenu 21% plus de r\u00e9sultats positifs dans l'ensemble de formation data.<\/p>\n<\/div>

Att\u00e9nuation des biais<\/h4><\/div>

Les m\u00e9thodes qui ciblent les biais algorithmiques sont g\u00e9n\u00e9ralement divis\u00e9es en trois cat\u00e9gories :<\/p>\n<\/div>