![\"Image\"](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2021\/02\/Karim-e1614443653963.png\")
![](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2021\/03\/medium.png\" "\\"mittel\\"")
<\/span><\/div>Einf\u00fchrung<\/h2><\/div>Der Einsatz von maschinellem Lernen als Mittel zur Entscheidungsfindung ist mittlerweile allgegenw\u00e4rtig. Viele der Ergebnisse von Diensten, die wir t\u00e4glich nutzen, sind das Ergebnis einer Entscheidung, die durch maschinelles Lernen getroffen wurde. Infolgedessen werden menschliche Eingriffe in Bereichen, die jeden Aspekt unseres t\u00e4glichen Lebens betreffen und in denen jeder Fehler im Urteil des algorithmischen Modells negative Auswirkungen haben k\u00f6nnte, allm\u00e4hlich reduziert. Es ist daher unerl\u00e4sslich, angemessene Richtlinien festzulegen, um vertrauensw\u00fcrdige und verantwortungsvolle L\u00f6sungen f\u00fcr das maschinelle Lernen zu entwickeln und dabei die Ethik als Grundpfeiler zu ber\u00fccksichtigen.<\/p>\n<\/div>
In den letzten Jahren hat die Ethik im Bereich des maschinellen Lernens einen bedeutenden Anstieg der akademischen Forschung erlebt, mit gro\u00dfen Konferenzen wie\u00a0FACCT<\/a>\u00a0und\u00a0AIES<\/a>, sowie in gro\u00dfen Technologieunternehmen, die schnell wachsende Teams zusammenstellen, um die ethischen Herausforderungen zu meistern.<\/p>\n<\/div>Ethische KI ist ein weites Feld, das viele Themen wie Datenschutz, data governance, gesellschaftliches und \u00f6kologisches Wohlergehen, algorithmische Verantwortlichkeit usw. umfasst. In diesem Artikel werden wir uns haupts\u00e4chlich auf die folgenden Komponenten der Ethik beim maschinellen Lernen konzentrieren:\u00a0Fairness, Erkl\u00e4rbarkeit und Nachvollziehbarkeit<\/strong>. Wir werden zun\u00e4chst er\u00f6rtern, was auf dem Spiel steht und warum es unerl\u00e4sslich ist, auf Ethik zu achten. Dann werden wir untersuchen, wie Sie Ihr maschinelles Lernprojekt unter Ber\u00fccksichtigung der Ethik konzipieren und entwickeln und wie Sie die Ethik nach dem Einsatz in der Produktion weiterverfolgen k\u00f6nnen.<\/p>\n<\/div>Warum wir der Ethik Aufmerksamkeit schenken sollten<\/h2><\/div>Da die Algorithmen des maschinellen Lernens und die ihnen zugrunde liegenden Abstraktionen und Hypothesen immer komplexer werden, ist es schwierig geworden, alle m\u00f6glichen Konsequenzen des gesamten Systems vollst\u00e4ndig zu erfassen und zu verstehen.
\nEs gibt mehrere bekannte Beispiele aus der Praxis, in denen unfaire Algorithmen f\u00fcr maschinelles Lernen zu suboptimalen und diskriminierenden Ergebnissen f\u00fchren. Darunter das bekannte Beispiel von COMPAS. COMPAS war eine weit verbreitete kommerzielle Software, die das Risiko einer Person misst, ein weiteres Verbrechen zu begehen, und die mit dem normalen menschlichen Urteilsverm\u00f6gen in einem\u00a0Studie<\/a>\u00a0und wurde sp\u00e4ter als voreingenommen gegen\u00fcber Afro-Amerikanern entdeckt: COMPAS wies afro-amerikanischen Straft\u00e4tern mit gr\u00f6\u00dferer Wahrscheinlichkeit einen h\u00f6heren Risikowert zu als wei\u00dfen Straft\u00e4tern mit demselben Profil.<\/p>\n<\/div>Im Bereich NLP wurde in fr\u00fchen Versionen von Google Translate ein Gender Biais entdeckt, das 2018 und in j\u00fcngerer Zeit behoben wurde.<\/p>\n
Im Bereich der Kreditvergabe wurde gegen Goldman Sachs ermittelt, weil sie einen KI-Algorithmus einsetzten, der angeblich women diskriminierte, indem er M\u00e4nnern gr\u00f6\u00dfere Kreditlimits auf ihren Apple-Karten gew\u00e4hrte als women.<\/p>\n
Im Bereich des Gesundheitswesens hat ein Algorithmus zur Risikovorhersage, der bei mehr als 200 Millionen Menschen in den USA eingesetzt wurde, rassistische Verzerrungen gezeigt.<\/p>\n<\/div>
Ohne einen klar definierten Rahmen f\u00fcr die Analyse, Identifizierung und Milderung von Verzerrungen ist das Risiko, in ethische Fallen zu tappen, ziemlich hoch. Es wird daher immer wichtiger, angemessene Richtlinien festzulegen, um Modelle zu entwickeln, die angemessene und faire Ergebnisse liefern, insbesondere in Bereichen, in denen Menschen involviert sind. Die Entwicklung vertrauensw\u00fcrdiger KI gibt den Endnutzern ein sicheres Gef\u00fchl, wenn sie sie verwenden, und erm\u00f6glicht es Unternehmen, mehr Kontrolle \u00fcber ihre Verwendung auszu\u00fcben, um die Effizienz zu steigern und gleichzeitig Schaden zu vermeiden.\u00a0Damit Ihre KI vertrauensw\u00fcrdig ist, m\u00fcssen Sie eigentlich schon vor der Verarbeitung von data und der Entwicklung von Algorithmen anfangen, an Ethik zu denken.<\/strong><\/p>\n<\/div>Wie Sie schon vor Beginn Ihres Projekts an Ethik denken<\/h2><\/div>Die Ethik muss von Beginn eines neuen Projekts an ber\u00fccksichtigt werden, insbesondere in der Phase der Problemstellung. Sie sollten sowohl die anvisierten Endnutzer als auch das Ziel der vorgeschlagenen L\u00f6sung im Auge haben, um den richtigen Rahmen f\u00fcr die Analyse und das Risikomanagement zu schaffen, um die direkten oder indirekten Sch\u00e4den zu identifizieren, die durch die L\u00f6sung verursacht werden k\u00f6nnten.<\/strong>\u00a0Sie sollten sich fragen, ob meine L\u00f6sung unter diesen Bedingungen zu Entscheidungen f\u00fchren k\u00f6nnte, die eine bestimmte Untergruppe von Endnutzern beg\u00fcnstigen?<\/p>\n<\/div>Es ist daher von entscheidender Bedeutung, KPIs zu entwickeln, um die Methoden zu verfolgen, die die Wirksamkeit Ihrer Risikomanagementstrategie gew\u00e4hrleisten. Ein solides Rahmenwerk k\u00f6nnte auch, wenn m\u00f6glich, ethische Risikominderungsmechanismen einbeziehen.
\nWenn es sich um ein sensibles Thema handelt, das ein hohes Risikopotenzial birgt, ist es notwendig, die f\u00fcr die Explorations- und Aufbauphase vorgesehene Zeit zu verl\u00e4ngern, um eine gr\u00fcndliche Analyse der ethischen Bewertung und\u00a0Abschw\u00e4chung von Vorurteilen<\/strong>\u00a0Strategien.<\/p>\n<\/div>Sie m\u00fcssen auch Mechanismen einrichten, die dem KI-System die\u00a0Pr\u00fcfbarkeit<\/strong>\u00a0und\u00a0 Reproduzierbarkeit <\/strong>. Eine Logikspur muss zur Inspektion verf\u00fcgbar sein, damit alle Probleme \u00fcberpr\u00fcft oder weiter untersucht werden k\u00f6nnen. Dies geschieht durch die Durchsetzung eines guten Niveaus an\u00a0R\u00fcckverfolgbarkeit<\/strong>\u00a0durch Dokumentation, Protokollierung, Nachverfolgung und Versionierung.<\/p>\nJede data-Quelle und jede data-Umwandlung muss ebenfalls dokumentiert werden, um die bei der Verarbeitung des data getroffenen Entscheidungen transparent und nachvollziehbar zu machen. Auf diese Weise lassen sich die Schritte ermitteln, die m\u00f6glicherweise eine Verzerrung verursacht oder verst\u00e4rkt haben.<\/p>\n<\/div>
Wie Sie bei der Entwicklung Ihres data-Projekts ethische Aspekte ber\u00fccksichtigen k\u00f6nnen<\/h2><\/div>Um Ethik in die Entwicklung Ihres data-Projekts einzubeziehen, ist es wichtig, mindestens drei Komponenten zu ber\u00fccksichtigen: Fairness, Erkl\u00e4rbarkeit und Nachvollziehbarkeit.<\/p>\n<\/div>
Fairness<\/h3><\/div>Der erste Schritt bei den meisten Projekten zum maschinellen Lernen ist in der Regel die data-Sammlung. Unabh\u00e4ngig davon, ob Sie den Prozess der data-Sammlung durchlaufen oder ein bestehendes data-Set verwenden, ist das Wissen dar\u00fcber, wie die Sammlung durchgef\u00fchrt wurde, entscheidend. In der Regel ist es nicht m\u00f6glich, die gesamte Zielpopulation zu erfassen, so dass Merkmale und Bezeichnungen aus einer Teilmenge entnommen, nach bestimmten Kriterien gefiltert oder aggregiert werden k\u00f6nnen. All diese Schritte k\u00f6nnen zu statistischen Verzerrungen f\u00fchren, die ethische Konsequenzen haben k\u00f6nnen.<\/p>\n<\/div>
Voreingenommenheit bei der Repr\u00e4sentation<\/h3><\/div>ergibt sich aus der Art und Weise, wie wir eine Population definieren und beproben. Zum Beispiel hat der Mangel an geografischer Vielfalt in data-Sets wie ImageNet eine Voreingenommenheit gegen\u00fcber westlichen L\u00e4ndern gezeigt. Als Ergebnis von\u00a0Stichprobenverzerrung<\/strong>, Die f\u00fcr eine Population gesch\u00e4tzten Trends lassen sich m\u00f6glicherweise nicht auf data aus einer neuen Population \u00fcbertragen.<\/p>\n<\/div>![](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2021\/07\/Article-Including-ethics.jpeg\" "\\"Artikel-einschlie\u00dflich-Ethik\\"")
<\/span><\/div>Daher ist es notwendig, geeignete data-Sammelprotokolle zu definieren und die Vielfalt der erhaltenen data zu analysieren und dem Team alle festgestellten L\u00fccken oder Risiken zu melden. Sie m\u00fcssen data so objektiv wie m\u00f6glich erheben. Zum Beispiel, indem Sie durch eine statistische Analyse sicherstellen, dass die Stichprobe repr\u00e4sentativ f\u00fcr die von Ihnen untersuchte Population oder Gruppe ist, und indem Sie so weit wie m\u00f6glich Daten aus verschiedenen Quellen kombinieren, um die Vielfalt der data zu gew\u00e4hrleisten.
\nDie Dokumentation der Ergebnisse und des gesamten data-Erfassungsprozesses ist obligatorisch.<\/p>\n<\/div>
Es gibt in der Tat viele m\u00f6gliche Quellen f\u00fcr Voreingenommenheit, die in vielen Formen existieren k\u00f6nnen, von denen einige zu Unfairness bei verschiedenen nachgelagerten Lernaufgaben f\u00fchren k\u00f6nnen.
\nDa das Herzst\u00fcck \u00fcberwachter Algorithmen f\u00fcr maschinelles Lernen das Training data ist, k\u00f6nnen Modelle ihr Verhalten aus data lernen, das unter der Einbeziehung unbeabsichtigter historischer oder statistischer Verzerrungen leiden kann.\u00a0Historische Voreingenommenheit<\/strong>\u00a0k\u00f6nnen in den data-Generierungsprozess eindringen, selbst wenn die Stichproben und die Auswahl der Merkmale perfekt sind. Das Fortbestehen dieser Verzerrungen k\u00f6nnte zu einer unbeabsichtigten Diskriminierung bestimmter Gruppen oder Einzelpersonen f\u00fchren, was Vorurteile und Ausgrenzung noch verst\u00e4rken kann.<\/p>\n<\/div>Nicht alle Ursachen f\u00fcr Verzerrungen sind in data zu suchen. Die gesamte Pipeline des maschinellen Lernens umfasst eine Reihe von Entscheidungen und Praktiken, von der data-Vorverarbeitung bis zum Einsatz der Modelle.
\nEs ist nicht einfach, von Anfang an zu erkennen, ob und wie Probleme entstehen k\u00f6nnten. Eine gr\u00fcndliche Analyse ist erforderlich, um aufkommende Probleme zu erkennen. Je nach Anwendungsfall, der Art des data und dem Ziel der Aufgabe kommen unterschiedliche Methoden zur Anwendung.
\nIn diesem Abschnitt werden wir anhand eines anschaulichen Anwendungsfalls einige Techniken zur Identifizierung und Milderung von ethischen Verzerrungen untersuchen. Wir erl\u00e4utern zun\u00e4chst das Problem, dann sehen wir uns an, wie man Verzerrungen messen kann, und schlie\u00dflich wenden wir einige Techniken an, um Verzerrungen bei der Vorverarbeitung, bei der Verarbeitung und bei der Nachverarbeitung abzuschw\u00e4chen.<\/p>\n<\/div>
Problemstellung<\/h4><\/div>Nehmen wir an, Sie entwickeln einen Scoring-Algorithmus im Bankensektor, um die targeting von Kunden zu automatisieren, die von einem Premium-Gesch\u00e4ft profitieren oder nicht. Sie erhalten ein historisches data-Set, das viele aussagekr\u00e4ftige data-Merkmale \u00fcber Ihre Kunden sowie das bin\u00e4re Ziel \u201cgeeignet f\u00fcr ein Premium-Gesch\u00e4ft\u201d enth\u00e4lt. PII-Elemente (personenbezogene Daten) wurden zuvor aus dem dataset entfernt, so dass es keine Probleme mit dem Datenschutz gibt (in diesem Zusammenhang ist der Google cloud data Loss Prevention Service ein gro\u00dfartiges Werkzeug, um die Aufgabe der De-Identifizierung Ihrer sensiblen data durchzuf\u00fchren).
\nDieser Anwendungsfall mag etwas fiktiv erscheinen, aber das Problem ist einem realen Anwendungsfall sehr \u00e4hnlich, mit dem wir uns in der Vergangenheit in einem anderen Sektor besch\u00e4ftigt haben.<\/p>\n<\/div>
Bias messen<\/h4><\/div>Der erste Schritt der Analyse besteht darin, die data zu untersuchen, um empfindliche Merkmale, den privilegierten Wert und das g\u00fcnstige Label zu identifizieren.<\/p>\n
Empfindliche Merkmale\u00a0<\/strong>(oder manchmal auch\u00a0gesch\u00fctzte Attribute<\/strong>) sind Merkmale, die eine Bev\u00f6lkerung in Gruppen aufteilen, die in Bezug auf den Leistungsbezug gleichberechtigt sein sollten. Diese Merkmale k\u00f6nnen ein diskriminierendes Potenzial gegen\u00fcber bestimmten Untergruppen haben. Zum Beispiel: Geschlecht, Geschlecht, Alter, Familienstand, sozio\u00f6konomische Einstufung, Familienstand usw. und alle daraus abgeleiteten Proxy-Merkmale data (z.B. geografischer Standort oder Rechnungsbetr\u00e4ge k\u00f6nnen als Proxy-Merkmale f\u00fcr die sozio\u00f6konomische Einstufung dienen, da in einigen Situationen beobachtet wurde, dass sie stark korreliert sein k\u00f6nnen) sind sensible Merkmale.<\/p>\nA privilegierter Wert<\/strong>\u00a0eines sensiblen Merkmals bezeichnet eine Gruppe, die in der Vergangenheit einen systematischen Vorteil hatte.<\/p>\n<\/div>A g\u00fcnstiges Etikett<\/strong>\u00a0W\u00e4hrend der Vorbereitungsphase des data k\u00f6nnen Schritte wie die Aufteilung des data, Unter- oder \u00dcberstichproben, der Umgang mit fehlenden Werten und Ausrei\u00dfern zu Verzerrungen f\u00fchren, wenn sie nicht sorgf\u00e4ltig durchgef\u00fchrt werden. Der Anteil der fehlenden Werte oder Ausrei\u00dfer in den Untergruppen bei sensiblen Merkmalen kann ein erster Schritt sein, um Verzerrungen zu erkennen. Einige Imputationsstrategien k\u00f6nnen zu statistischen Verzerrungen f\u00fchren, z. B. die Imputation der fehlenden Werte f\u00fcr das Merkmal Alter des Kunden durch den Median.<\/p>\nIn unserem Scoring-Beispiel haben wir eine Grafik erstellt, die zeigt, wie sich die Ausbildung data auf die Geschlechter verteilt, und zwar in Bezug auf die Zielvorgabe \u201cf\u00f6rderf\u00e4hig f\u00fcr ein Premiumgesch\u00e4ft\u201d:<\/p>\n<\/div>
![](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2021\/07\/karim-si-larbi-blog.png\" "\\"karim-si-larbi-blog\\"")
<\/span><\/div>Wir k\u00f6nnen sehen, dass die Verteilung des Ziels zugunsten des Geschlechts unausgewogen ist\u00a0M\u00e4nnlich<\/em>. Lassen Sie uns annehmen, dass der Privilegierungswert\u00a0M\u00e4nnlich<\/em>\u00a0wobei\u00a0Geschlecht<\/em> ist ein sensibles Merkmal und das g\u00fcnstige Etikett ist \u201cberechtigt f\u00fcr ein Premium-Gesch\u00e4ft\u201d. Au\u00dferdem k\u00f6nnte dies zu einer Verzerrung der Darstellung im data f\u00fchren. In einem Fall, in dem die Gleichheit respektiert wird, k\u00f6nnte man sicherstellen, dass die Verteilungen im data vollst\u00e4ndig ausgeglichen sind oder den Verteilungen im demografischen data entsprechen.<\/p>\nAn diesem Punkt k\u00f6nnten Sie versucht sein, die sensiblen Merkmale einfach aus Ihrem dataset zu entfernen, aber es hat sich gezeigt, dass das Entfernen sensibler Attribute nicht unbedingt ausreicht, um Ihr Modell fair zu machen. Das Modell k\u00f6nnte andere Merkmale verwenden, die mit dem entfernten sensiblen Merkmal korrelieren und so historische Verzerrungen reproduzieren. Ein Beispiel: Ein Merkmal A k\u00f6nnte stark mit dem Alter eines Kunden korreliert sein. Wenn also das data gegen\u00fcber einer bestimmten Altersgruppe voreingenommen ist (historische Voreingenommenheit k\u00f6nnte zu Diskriminierung aufgrund des Alters bei Einstellungen, Bef\u00f6rderungen usw. f\u00fchren), wird diese Voreingenommenheit in Merkmal A kodiert und das Entfernen des Alters eines Kunden wird das Problem nicht l\u00f6sen. Wenn Sie die sensible Funktion in Ihrem data beibehalten, haben Sie eine bessere Kontrolle \u00fcber die Messung und Abschw\u00e4chung von Vorurteilen und Fairness.<\/p>\n<\/div>
Voreingenommene Metriken<\/h4><\/div>Es gibt eine Vielzahl von Fairness-Definitionen und Fairness-Metriken. Wir k\u00f6nnen Fairness unterteilen in\u00a0individuelle Fairness<\/strong>\u00a0und\u00a0Gruppenfairness<\/strong>. Die individuelle Fairness gibt \u00e4hnlichen Individuen \u00e4hnliche Prognosen, w\u00e4hrend die Gruppenfairness verschiedene Gruppen gleich behandelt.<\/p>\nUm Gruppenfairness zu erreichen, wollen wir, dass die Wahrscheinlichkeit eines positiven Ergebnisses gleich ist, unabh\u00e4ngig davon, ob die Person in der gesch\u00fctzten Gruppe ist (z.B.,\u00a0weiblich<\/em>) Gruppe oder nicht.
\nEine einfache Gruppenmetrik ist der Vergleich des Prozentsatzes der g\u00fcnstigen Ergebnisse f\u00fcr die privilegierten und nicht privilegierten Gruppen (in unserem Beispiel das Geschlecht\u00a0M\u00e4nnlich<\/em>\u00a0die \u201cf\u00fcr ein Premiumangebot in Frage kommen\u201d im Vergleich zum Geschlecht\u00a0Weiblich<\/em>\u00a0die \u201cf\u00fcr ein Premium-Gesch\u00e4ft in Frage kommen\u201d). Sie k\u00f6nnen diesen Vergleich als Differenz zwischen den beiden Prozents\u00e4tzen berechnen, was zu folgendem Ergebnis f\u00fchrt\u00a0statistische Parit\u00e4tsdifferenz<\/strong>\u00a0Metrik (auch genannt\u00a0demografische Parit\u00e4t<\/strong>):<\/p>\n<\/div>![](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2021\/07\/code-blog-Karim.png\" "\\"code-blog-Karim\\"")
<\/span><\/div>Damit es keinen Unterschied bei den positiven Ergebnissen zwischen privilegierten und nicht privilegierten Gruppen gibt, sollte die statistische Parit\u00e4tsdifferenz gleich 0 sein.
\nZum Thema der individuellen Fairness-Metrik gibt es die\u00a0Konsistenz<\/strong>\u00a0die den Grad der \u00c4hnlichkeit von Etiketten f\u00fcr \u00e4hnliche Individuen mit Hilfe eines Algorithmus der n\u00e4chsten Nachbarn misst:<\/p>\n<\/div>![](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2021\/07\/blog-karim.png\" "\\"blog-karim\\"")
<\/span><\/div>Wir werden uns nicht mit diesem Thema befassen, aber der interessierte Leser kann dies nachlesen\u00a0Artikel<\/a>.
\nSie k\u00f6nnen die praktische Bibliothek verwenden\u00a0AIF360<\/a>\u00a0mit dem Sie viele Fairness-Metriken berechnen k\u00f6nnen.
\nAlles, was Sie tun m\u00fcssen, ist, Ihren dataframe in den\u00a0StandardDataset<\/em>. AIF360 verwendet eine\u00a0StandardDataset<\/em>\u00a0das einen Pandas DataFrame mit vielen Attributen und Methoden umh\u00fcllt, die speziell f\u00fcr die Verarbeitung und Messung ethischer Vorurteile gedacht sind. Sie k\u00f6nnen dies dann als Eingabe f\u00fcr das\u00a0BinaryLabelDatasetMetric<\/em> Klasse, die eine Reihe von n\u00fctzlichen Metriken berechnet.<\/p>\n<\/div>\n
Der Einsatz von maschinellem Lernen als Mittel zur Entscheidungsfindung ist mittlerweile allgegenw\u00e4rtig. Viele der Ergebnisse von Diensten, die wir t\u00e4glich nutzen, sind das Ergebnis einer Entscheidung, die durch maschinelles Lernen getroffen wurde. Infolgedessen werden menschliche Eingriffe in Bereichen, die jeden Aspekt unseres t\u00e4glichen Lebens betreffen und in denen jeder Fehler im Urteil des algorithmischen Modells negative Auswirkungen haben k\u00f6nnte, allm\u00e4hlich reduziert. Es ist daher unerl\u00e4sslich, angemessene Richtlinien festzulegen, um vertrauensw\u00fcrdige und verantwortungsvolle L\u00f6sungen f\u00fcr das maschinelle Lernen zu entwickeln und dabei die Ethik als Grundpfeiler zu ber\u00fccksichtigen.<\/p>\n<\/div>
In den letzten Jahren hat die Ethik im Bereich des maschinellen Lernens einen bedeutenden Anstieg der akademischen Forschung erlebt, mit gro\u00dfen Konferenzen wie\u00a0FACCT<\/a>\u00a0und\u00a0AIES<\/a>, sowie in gro\u00dfen Technologieunternehmen, die schnell wachsende Teams zusammenstellen, um die ethischen Herausforderungen zu meistern.<\/p>\n<\/div> Ethische KI ist ein weites Feld, das viele Themen wie Datenschutz, data governance, gesellschaftliches und \u00f6kologisches Wohlergehen, algorithmische Verantwortlichkeit usw. umfasst. In diesem Artikel werden wir uns haupts\u00e4chlich auf die folgenden Komponenten der Ethik beim maschinellen Lernen konzentrieren:\u00a0Fairness, Erkl\u00e4rbarkeit und Nachvollziehbarkeit<\/strong>. Wir werden zun\u00e4chst er\u00f6rtern, was auf dem Spiel steht und warum es unerl\u00e4sslich ist, auf Ethik zu achten. Dann werden wir untersuchen, wie Sie Ihr maschinelles Lernprojekt unter Ber\u00fccksichtigung der Ethik konzipieren und entwickeln und wie Sie die Ethik nach dem Einsatz in der Produktion weiterverfolgen k\u00f6nnen.<\/p>\n<\/div> Da die Algorithmen des maschinellen Lernens und die ihnen zugrunde liegenden Abstraktionen und Hypothesen immer komplexer werden, ist es schwierig geworden, alle m\u00f6glichen Konsequenzen des gesamten Systems vollst\u00e4ndig zu erfassen und zu verstehen. Im Bereich NLP wurde in fr\u00fchen Versionen von Google Translate ein Gender Biais entdeckt, das 2018 und in j\u00fcngerer Zeit behoben wurde.<\/p>\n Im Bereich der Kreditvergabe wurde gegen Goldman Sachs ermittelt, weil sie einen KI-Algorithmus einsetzten, der angeblich women diskriminierte, indem er M\u00e4nnern gr\u00f6\u00dfere Kreditlimits auf ihren Apple-Karten gew\u00e4hrte als women.<\/p>\n Im Bereich des Gesundheitswesens hat ein Algorithmus zur Risikovorhersage, der bei mehr als 200 Millionen Menschen in den USA eingesetzt wurde, rassistische Verzerrungen gezeigt.<\/p>\n<\/div> Ohne einen klar definierten Rahmen f\u00fcr die Analyse, Identifizierung und Milderung von Verzerrungen ist das Risiko, in ethische Fallen zu tappen, ziemlich hoch. Es wird daher immer wichtiger, angemessene Richtlinien festzulegen, um Modelle zu entwickeln, die angemessene und faire Ergebnisse liefern, insbesondere in Bereichen, in denen Menschen involviert sind. Die Entwicklung vertrauensw\u00fcrdiger KI gibt den Endnutzern ein sicheres Gef\u00fchl, wenn sie sie verwenden, und erm\u00f6glicht es Unternehmen, mehr Kontrolle \u00fcber ihre Verwendung auszu\u00fcben, um die Effizienz zu steigern und gleichzeitig Schaden zu vermeiden.\u00a0Damit Ihre KI vertrauensw\u00fcrdig ist, m\u00fcssen Sie eigentlich schon vor der Verarbeitung von data und der Entwicklung von Algorithmen anfangen, an Ethik zu denken.<\/strong><\/p>\n<\/div> Die Ethik muss von Beginn eines neuen Projekts an ber\u00fccksichtigt werden, insbesondere in der Phase der Problemstellung. Sie sollten sowohl die anvisierten Endnutzer als auch das Ziel der vorgeschlagenen L\u00f6sung im Auge haben, um den richtigen Rahmen f\u00fcr die Analyse und das Risikomanagement zu schaffen, um die direkten oder indirekten Sch\u00e4den zu identifizieren, die durch die L\u00f6sung verursacht werden k\u00f6nnten.<\/strong>\u00a0Sie sollten sich fragen, ob meine L\u00f6sung unter diesen Bedingungen zu Entscheidungen f\u00fchren k\u00f6nnte, die eine bestimmte Untergruppe von Endnutzern beg\u00fcnstigen?<\/p>\n<\/div> Es ist daher von entscheidender Bedeutung, KPIs zu entwickeln, um die Methoden zu verfolgen, die die Wirksamkeit Ihrer Risikomanagementstrategie gew\u00e4hrleisten. Ein solides Rahmenwerk k\u00f6nnte auch, wenn m\u00f6glich, ethische Risikominderungsmechanismen einbeziehen. Sie m\u00fcssen auch Mechanismen einrichten, die dem KI-System die\u00a0Pr\u00fcfbarkeit<\/strong>\u00a0und\u00a0 Reproduzierbarkeit <\/strong>. Eine Logikspur muss zur Inspektion verf\u00fcgbar sein, damit alle Probleme \u00fcberpr\u00fcft oder weiter untersucht werden k\u00f6nnen. Dies geschieht durch die Durchsetzung eines guten Niveaus an\u00a0R\u00fcckverfolgbarkeit<\/strong>\u00a0durch Dokumentation, Protokollierung, Nachverfolgung und Versionierung.<\/p>\n Jede data-Quelle und jede data-Umwandlung muss ebenfalls dokumentiert werden, um die bei der Verarbeitung des data getroffenen Entscheidungen transparent und nachvollziehbar zu machen. Auf diese Weise lassen sich die Schritte ermitteln, die m\u00f6glicherweise eine Verzerrung verursacht oder verst\u00e4rkt haben.<\/p>\n<\/div> Um Ethik in die Entwicklung Ihres data-Projekts einzubeziehen, ist es wichtig, mindestens drei Komponenten zu ber\u00fccksichtigen: Fairness, Erkl\u00e4rbarkeit und Nachvollziehbarkeit.<\/p>\n<\/div> Der erste Schritt bei den meisten Projekten zum maschinellen Lernen ist in der Regel die data-Sammlung. Unabh\u00e4ngig davon, ob Sie den Prozess der data-Sammlung durchlaufen oder ein bestehendes data-Set verwenden, ist das Wissen dar\u00fcber, wie die Sammlung durchgef\u00fchrt wurde, entscheidend. In der Regel ist es nicht m\u00f6glich, die gesamte Zielpopulation zu erfassen, so dass Merkmale und Bezeichnungen aus einer Teilmenge entnommen, nach bestimmten Kriterien gefiltert oder aggregiert werden k\u00f6nnen. All diese Schritte k\u00f6nnen zu statistischen Verzerrungen f\u00fchren, die ethische Konsequenzen haben k\u00f6nnen.<\/p>\n<\/div> ergibt sich aus der Art und Weise, wie wir eine Population definieren und beproben. Zum Beispiel hat der Mangel an geografischer Vielfalt in data-Sets wie ImageNet eine Voreingenommenheit gegen\u00fcber westlichen L\u00e4ndern gezeigt. Als Ergebnis von\u00a0Stichprobenverzerrung<\/strong>, Die f\u00fcr eine Population gesch\u00e4tzten Trends lassen sich m\u00f6glicherweise nicht auf data aus einer neuen Population \u00fcbertragen.<\/p>\n<\/div> Daher ist es notwendig, geeignete data-Sammelprotokolle zu definieren und die Vielfalt der erhaltenen data zu analysieren und dem Team alle festgestellten L\u00fccken oder Risiken zu melden. Sie m\u00fcssen data so objektiv wie m\u00f6glich erheben. Zum Beispiel, indem Sie durch eine statistische Analyse sicherstellen, dass die Stichprobe repr\u00e4sentativ f\u00fcr die von Ihnen untersuchte Population oder Gruppe ist, und indem Sie so weit wie m\u00f6glich Daten aus verschiedenen Quellen kombinieren, um die Vielfalt der data zu gew\u00e4hrleisten. Es gibt in der Tat viele m\u00f6gliche Quellen f\u00fcr Voreingenommenheit, die in vielen Formen existieren k\u00f6nnen, von denen einige zu Unfairness bei verschiedenen nachgelagerten Lernaufgaben f\u00fchren k\u00f6nnen. Nicht alle Ursachen f\u00fcr Verzerrungen sind in data zu suchen. Die gesamte Pipeline des maschinellen Lernens umfasst eine Reihe von Entscheidungen und Praktiken, von der data-Vorverarbeitung bis zum Einsatz der Modelle. Nehmen wir an, Sie entwickeln einen Scoring-Algorithmus im Bankensektor, um die targeting von Kunden zu automatisieren, die von einem Premium-Gesch\u00e4ft profitieren oder nicht. Sie erhalten ein historisches data-Set, das viele aussagekr\u00e4ftige data-Merkmale \u00fcber Ihre Kunden sowie das bin\u00e4re Ziel \u201cgeeignet f\u00fcr ein Premium-Gesch\u00e4ft\u201d enth\u00e4lt. PII-Elemente (personenbezogene Daten) wurden zuvor aus dem dataset entfernt, so dass es keine Probleme mit dem Datenschutz gibt (in diesem Zusammenhang ist der Google cloud data Loss Prevention Service ein gro\u00dfartiges Werkzeug, um die Aufgabe der De-Identifizierung Ihrer sensiblen data durchzuf\u00fchren). Der erste Schritt der Analyse besteht darin, die data zu untersuchen, um empfindliche Merkmale, den privilegierten Wert und das g\u00fcnstige Label zu identifizieren.<\/p>\n Empfindliche Merkmale\u00a0<\/strong>(oder manchmal auch\u00a0gesch\u00fctzte Attribute<\/strong>) sind Merkmale, die eine Bev\u00f6lkerung in Gruppen aufteilen, die in Bezug auf den Leistungsbezug gleichberechtigt sein sollten. Diese Merkmale k\u00f6nnen ein diskriminierendes Potenzial gegen\u00fcber bestimmten Untergruppen haben. Zum Beispiel: Geschlecht, Geschlecht, Alter, Familienstand, sozio\u00f6konomische Einstufung, Familienstand usw. und alle daraus abgeleiteten Proxy-Merkmale data (z.B. geografischer Standort oder Rechnungsbetr\u00e4ge k\u00f6nnen als Proxy-Merkmale f\u00fcr die sozio\u00f6konomische Einstufung dienen, da in einigen Situationen beobachtet wurde, dass sie stark korreliert sein k\u00f6nnen) sind sensible Merkmale.<\/p>\n A privilegierter Wert<\/strong>\u00a0eines sensiblen Merkmals bezeichnet eine Gruppe, die in der Vergangenheit einen systematischen Vorteil hatte.<\/p>\n<\/div> A g\u00fcnstiges Etikett<\/strong>\u00a0W\u00e4hrend der Vorbereitungsphase des data k\u00f6nnen Schritte wie die Aufteilung des data, Unter- oder \u00dcberstichproben, der Umgang mit fehlenden Werten und Ausrei\u00dfern zu Verzerrungen f\u00fchren, wenn sie nicht sorgf\u00e4ltig durchgef\u00fchrt werden. Der Anteil der fehlenden Werte oder Ausrei\u00dfer in den Untergruppen bei sensiblen Merkmalen kann ein erster Schritt sein, um Verzerrungen zu erkennen. Einige Imputationsstrategien k\u00f6nnen zu statistischen Verzerrungen f\u00fchren, z. B. die Imputation der fehlenden Werte f\u00fcr das Merkmal Alter des Kunden durch den Median.<\/p>\n In unserem Scoring-Beispiel haben wir eine Grafik erstellt, die zeigt, wie sich die Ausbildung data auf die Geschlechter verteilt, und zwar in Bezug auf die Zielvorgabe \u201cf\u00f6rderf\u00e4hig f\u00fcr ein Premiumgesch\u00e4ft\u201d:<\/p>\n<\/div> Wir k\u00f6nnen sehen, dass die Verteilung des Ziels zugunsten des Geschlechts unausgewogen ist\u00a0M\u00e4nnlich<\/em>. Lassen Sie uns annehmen, dass der Privilegierungswert\u00a0M\u00e4nnlich<\/em>\u00a0wobei\u00a0Geschlecht<\/em> ist ein sensibles Merkmal und das g\u00fcnstige Etikett ist \u201cberechtigt f\u00fcr ein Premium-Gesch\u00e4ft\u201d. Au\u00dferdem k\u00f6nnte dies zu einer Verzerrung der Darstellung im data f\u00fchren. In einem Fall, in dem die Gleichheit respektiert wird, k\u00f6nnte man sicherstellen, dass die Verteilungen im data vollst\u00e4ndig ausgeglichen sind oder den Verteilungen im demografischen data entsprechen.<\/p>\n An diesem Punkt k\u00f6nnten Sie versucht sein, die sensiblen Merkmale einfach aus Ihrem dataset zu entfernen, aber es hat sich gezeigt, dass das Entfernen sensibler Attribute nicht unbedingt ausreicht, um Ihr Modell fair zu machen. Das Modell k\u00f6nnte andere Merkmale verwenden, die mit dem entfernten sensiblen Merkmal korrelieren und so historische Verzerrungen reproduzieren. Ein Beispiel: Ein Merkmal A k\u00f6nnte stark mit dem Alter eines Kunden korreliert sein. Wenn also das data gegen\u00fcber einer bestimmten Altersgruppe voreingenommen ist (historische Voreingenommenheit k\u00f6nnte zu Diskriminierung aufgrund des Alters bei Einstellungen, Bef\u00f6rderungen usw. f\u00fchren), wird diese Voreingenommenheit in Merkmal A kodiert und das Entfernen des Alters eines Kunden wird das Problem nicht l\u00f6sen. Wenn Sie die sensible Funktion in Ihrem data beibehalten, haben Sie eine bessere Kontrolle \u00fcber die Messung und Abschw\u00e4chung von Vorurteilen und Fairness.<\/p>\n<\/div> Es gibt eine Vielzahl von Fairness-Definitionen und Fairness-Metriken. Wir k\u00f6nnen Fairness unterteilen in\u00a0individuelle Fairness<\/strong>\u00a0und\u00a0Gruppenfairness<\/strong>. Die individuelle Fairness gibt \u00e4hnlichen Individuen \u00e4hnliche Prognosen, w\u00e4hrend die Gruppenfairness verschiedene Gruppen gleich behandelt.<\/p>\n Um Gruppenfairness zu erreichen, wollen wir, dass die Wahrscheinlichkeit eines positiven Ergebnisses gleich ist, unabh\u00e4ngig davon, ob die Person in der gesch\u00fctzten Gruppe ist (z.B.,\u00a0weiblich<\/em>) Gruppe oder nicht. Damit es keinen Unterschied bei den positiven Ergebnissen zwischen privilegierten und nicht privilegierten Gruppen gibt, sollte die statistische Parit\u00e4tsdifferenz gleich 0 sein. Wir werden uns nicht mit diesem Thema befassen, aber der interessierte Leser kann dies nachlesen\u00a0Artikel<\/a>.Warum wir der Ethik Aufmerksamkeit schenken sollten<\/h2><\/div>
\nEs gibt mehrere bekannte Beispiele aus der Praxis, in denen unfaire Algorithmen f\u00fcr maschinelles Lernen zu suboptimalen und diskriminierenden Ergebnissen f\u00fchren. Darunter das bekannte Beispiel von COMPAS. COMPAS war eine weit verbreitete kommerzielle Software, die das Risiko einer Person misst, ein weiteres Verbrechen zu begehen, und die mit dem normalen menschlichen Urteilsverm\u00f6gen in einem\u00a0Studie<\/a>\u00a0und wurde sp\u00e4ter als voreingenommen gegen\u00fcber Afro-Amerikanern entdeckt: COMPAS wies afro-amerikanischen Straft\u00e4tern mit gr\u00f6\u00dferer Wahrscheinlichkeit einen h\u00f6heren Risikowert zu als wei\u00dfen Straft\u00e4tern mit demselben Profil.<\/p>\n<\/div>Wie Sie schon vor Beginn Ihres Projekts an Ethik denken<\/h2><\/div>
\nWenn es sich um ein sensibles Thema handelt, das ein hohes Risikopotenzial birgt, ist es notwendig, die f\u00fcr die Explorations- und Aufbauphase vorgesehene Zeit zu verl\u00e4ngern, um eine gr\u00fcndliche Analyse der ethischen Bewertung und\u00a0Abschw\u00e4chung von Vorurteilen<\/strong>\u00a0Strategien.<\/p>\n<\/div>Wie Sie bei der Entwicklung Ihres data-Projekts ethische Aspekte ber\u00fccksichtigen k\u00f6nnen<\/h2><\/div>
Fairness<\/h3><\/div>
Voreingenommenheit bei der Repr\u00e4sentation<\/h3><\/div>
<\/span><\/div>
\nDie Dokumentation der Ergebnisse und des gesamten data-Erfassungsprozesses ist obligatorisch.<\/p>\n<\/div>
\nDa das Herzst\u00fcck \u00fcberwachter Algorithmen f\u00fcr maschinelles Lernen das Training data ist, k\u00f6nnen Modelle ihr Verhalten aus data lernen, das unter der Einbeziehung unbeabsichtigter historischer oder statistischer Verzerrungen leiden kann.\u00a0Historische Voreingenommenheit<\/strong>\u00a0k\u00f6nnen in den data-Generierungsprozess eindringen, selbst wenn die Stichproben und die Auswahl der Merkmale perfekt sind. Das Fortbestehen dieser Verzerrungen k\u00f6nnte zu einer unbeabsichtigten Diskriminierung bestimmter Gruppen oder Einzelpersonen f\u00fchren, was Vorurteile und Ausgrenzung noch verst\u00e4rken kann.<\/p>\n<\/div>
\nEs ist nicht einfach, von Anfang an zu erkennen, ob und wie Probleme entstehen k\u00f6nnten. Eine gr\u00fcndliche Analyse ist erforderlich, um aufkommende Probleme zu erkennen. Je nach Anwendungsfall, der Art des data und dem Ziel der Aufgabe kommen unterschiedliche Methoden zur Anwendung.
\nIn diesem Abschnitt werden wir anhand eines anschaulichen Anwendungsfalls einige Techniken zur Identifizierung und Milderung von ethischen Verzerrungen untersuchen. Wir erl\u00e4utern zun\u00e4chst das Problem, dann sehen wir uns an, wie man Verzerrungen messen kann, und schlie\u00dflich wenden wir einige Techniken an, um Verzerrungen bei der Vorverarbeitung, bei der Verarbeitung und bei der Nachverarbeitung abzuschw\u00e4chen.<\/p>\n<\/div>Problemstellung<\/h4><\/div>
\nDieser Anwendungsfall mag etwas fiktiv erscheinen, aber das Problem ist einem realen Anwendungsfall sehr \u00e4hnlich, mit dem wir uns in der Vergangenheit in einem anderen Sektor besch\u00e4ftigt haben.<\/p>\n<\/div>Bias messen<\/h4><\/div>
<\/span><\/div>Voreingenommene Metriken<\/h4><\/div>
\nEine einfache Gruppenmetrik ist der Vergleich des Prozentsatzes der g\u00fcnstigen Ergebnisse f\u00fcr die privilegierten und nicht privilegierten Gruppen (in unserem Beispiel das Geschlecht\u00a0M\u00e4nnlich<\/em>\u00a0die \u201cf\u00fcr ein Premiumangebot in Frage kommen\u201d im Vergleich zum Geschlecht\u00a0Weiblich<\/em>\u00a0die \u201cf\u00fcr ein Premium-Gesch\u00e4ft in Frage kommen\u201d). Sie k\u00f6nnen diesen Vergleich als Differenz zwischen den beiden Prozents\u00e4tzen berechnen, was zu folgendem Ergebnis f\u00fchrt\u00a0statistische Parit\u00e4tsdifferenz<\/strong>\u00a0Metrik (auch genannt\u00a0demografische Parit\u00e4t<\/strong>):<\/p>\n<\/div><\/span><\/div>
\nZum Thema der individuellen Fairness-Metrik gibt es die\u00a0Konsistenz<\/strong>\u00a0die den Grad der \u00c4hnlichkeit von Etiketten f\u00fcr \u00e4hnliche Individuen mit Hilfe eines Algorithmus der n\u00e4chsten Nachbarn misst:<\/p>\n<\/div><\/span><\/div>
\nSie k\u00f6nnen die praktische Bibliothek verwenden\u00a0AIF360<\/a>\u00a0mit dem Sie viele Fairness-Metriken berechnen k\u00f6nnen.
\nAlles, was Sie tun m\u00fcssen, ist, Ihren dataframe in den\u00a0StandardDataset<\/em>. AIF360 verwendet eine\u00a0StandardDataset<\/em>\u00a0das einen Pandas DataFrame mit vielen Attributen und Methoden umh\u00fcllt, die speziell f\u00fcr die Verarbeitung und Messung ethischer Vorurteile gedacht sind. Sie k\u00f6nnen dies dann als Eingabe f\u00fcr das\u00a0BinaryLabelDatasetMetric<\/em> Klasse, die eine Reihe von n\u00fctzlichen Metriken berechnet.<\/p>\n<\/div>
![](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2021\/07\/blog-2-Karim.png\" "\\"blog-2-Karim\\"")
<\/span><\/div>![](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2021\/07\/blog-4-Karim.png\" "\\"blog-4-Karim\\"")
<\/span><\/div>