Vertrauenswürdige KI: neue Herausforderungen und data-driven-Lösungen

Die Science-Fiction ist voll von Geschichten über rebellische KIs, in denen Maschinen nach ihren eigenen ruchlosen Wertesystemen handeln. Erinnern Sie sich an HAL 9000 in Space Odyssey oder Skynet in Terminator? Aber im wirklichen Leben sind KI-Systeme und Algorithmen weithin in alltägliche Aktivitäten wie Online-Einkäufe, Kreditanträge oder die Nutzung sozialer Netzwerke integriert. Obwohl Fälle von abtrünniger KI glücklicherweise der Fantasie von Autoren vorbehalten bleiben, sind KI-Abweichungen und Fehlfunktionen inzwischen alltäglich und haben oft sehr reale Konsequenzen. 

Wir haben alle die Bilder gesehen, die von KIs wie Dall-E 2 erzeugt werden. Es ist ein unschuldiger Spaß, ein Bild von einem Teddybären zu erstellen, der unter Wasser Musik hört. Aber ist Ihnen bewusst, dass die Algorithmen die Geschlechterstereotypen perpetuieren, indem sie Männer in Bildern von Ärzten, Piloten und CEOs überrepräsentieren, während women in Bildern von Krankenschwestern, Flugbegleitern und Sekretärinnen überrepräsentiert ist?

Angesichts der massiven Anzahl alltäglicher Entscheidungen, die an KI delegiert werden, können wir die ethischen Fragen, die ihr Einsatz aufwirft, nicht ignorieren. KI ist nach wie vor ein Markt und eine Technologie, die nur unzureichend gesetzlich geregelt ist (obwohl die Europäische Kommission aktiv an zukünftigen Regelungen arbeitet). Es liegt daher in der Verantwortung eines jeden Einzelnen, die Nutzer zu schützen.

Die Herausforderung für KI besteht darin, vertrauenswürdige Systeme zu schaffen nach Entwurf die den ethischen Erwartungen unserer Gesellschaft entsprechen. Wir müssen uns unbedingt darauf vorbereiten, jetzt damit zu beginnen, vertrauenswürdige KI-Systeme zu entwickeln und zu pflegen. Das ist ein gewaltiges Unterfangen: Ethik ist ein Thema, das sich durch den gesamten Lebenszyklus eines Produkts zieht.

Künstliche Intelligenz ist eine Reihe von Theorien und Techniken, die es einer Maschine ermöglichen, Entscheidungen zu treffen, wenn sie mit einer vordefinierten Situation konfrontiert wird. Mit anderen Worten: Sie simuliert die menschliche Intelligenz. Solche Programme können entweder deterministisch, bei denen aufeinanderfolgende Regeln nach einem Entscheidungsschema angewendet werden, oder probabilistisch, Das Programm kann, nachdem es aus ähnlichen Situationen in der Vergangenheit gelernt hat, ableiten, wie die ‘richtige’ Entscheidung aussehen sollte. Dies wird auch als Maschinelles Lernen.

Unabhängig von der Art des Programms ist KI die Automatisierung von Entscheidungen. Die ethischen Risiken liegen nicht in der Tatsache, dass KI schlecht automatisieren kann, sondern im Gegenteil darin, dass sie menschliche Entscheidungen perfekt nachahmt, mit ihrer Last an Fehlern und Voreingenommenheit. Viele dieser Fehlfunktionen ergeben sich aus dem kulturellen Kontext, in dem die KI entwickelt wurde, wenn sie die historischen Wertesysteme einer Gesellschaft (z. B. geschlechtsspezifische oder ethnische Ungleichheit) oder die ihrer Entwickler (Bildung, politische Sensibilität, religiöse Praktiken usw.) nachahmt.

Diese Verzerrungen sind bei Algorithmen des maschinellen Lernens besonders ausgeprägt, da sie auf alten data-Basisdaten trainiert werden und von der Vergangenheit auf die Zukunft schließen.

Die wesentlichen Fragen, die mit der Konzeption und Entwicklung einer vertrauenswürdigen KI verbunden sind, betreffen sowohl technische als auch ethische Themen, wie z. B.: Wie lassen sich mögliche Verzerrungen in einer KI zuverlässig erkennen? Wie interpretiert man die Ergebnisse eines Modells? Können wir die Entwicklung der Leistung einer KI messen? Welche Sicherheitsgarantien können wir geben? Können wir auf ein Abdriften reagieren? Diese nicht erschöpfende Liste spiegelt die Vielfalt der Herausforderungen wider, die bei der Entwicklung einer KI zu bewältigen sind.

Da sich KI-Modelle von Konzepten zu Produkten entwickelt haben, wurden viele technische Lösungen geschaffen, um die Automatisierung und den Einsatz von KI-Systemen zu erleichtern. In jüngster Zeit ist die Zahl der verfügbaren technischen Lösungen explodiert und hat ein reichhaltiges Ökosystem geschaffen, das durch ständige Innovationen von Start-ups und Branchenführern gleichermaßen angeheizt wird. Bemerkenswerte Beispiele sind die Allianz für KI-Infrastruktur und die MLOps Gemeinschaft, zu denen auch Artefact gehört. Das richtige Werkzeug für die richtige Aufgabe zu finden, wird also immer wichtiger und schwieriger.

Gleichzeitig hat sich ein ebenso lebendiges Ökosystem von Beratungsunternehmen entwickelt, die ihre Kunden bei diesen strategischen Entscheidungen unterstützen.

Viele dieser technischen Lösungen existieren als Open Source und sind für alle frei verfügbar. Diese Toolkits können Verzerrungen entlang der gesamten data-Verarbeitungskette erkennen und messen: von der Erfassung bis zur Verwertung, einschließlich Transformation und Modellierung. Diese Lösungen müssen während des gesamten Produktlebenszyklus implementiert werden, sowohl in der Design- und Entwicklungsphase als auch in der Produktion, um eine dauerhafte Korrektur zu gewährleisten. Es gibt drei besondere Bereiche, die mit technischen Lösungen angegangen werden können.

“Vorurteile kommen nicht von data-Wissenschaftlern, sie kommen von data-Sets.”

Vorurteile entstehen nicht bei data-Wissenschaftlern, sondern bei data-Sets. Deshalb ist es notwendig, zunächst die data-Sets zu erforschen und gründlich darüber nachzudenken. Verzerrungen können sowohl technischer Art sein (ausgelassene Variablen, data-Basis oder Selektionsprobleme) als auch sozialer Art (wirtschaftlich, kognitiv, emotional).

Um die Trainingssätze zu korrigieren, könnte es logisch erscheinen, alle Spuren von empfindlichem data zu löschen. Dies wäre jedoch ebenso nutzlos wie gefährlich: zum einen, weil nicht-empfindliche data heimtückisch mit empfindlichen data korreliert werden können, und zum anderen, weil diese Art von Abkürzung dazu verleitet, regelmäßige Kontrollen von data und Prozessen einzuschränken.

Um diese Verzerrungen zu erkennen, muss man sich ihrer Existenz bewusst sein und wissen, wonach man suchen muss. Es ist wichtig, den Kontext des data zu verstehen, um ihn richtig interpretieren zu können. Ein einzelnes Programm kann Verzerrungen nicht erkennen, daher sind verschiedene Teams von data-Wissenschaftlern so wichtig.

Indem wir kritisch über die verschiedenen mit einem KI-Modell verbundenen Metriken nachdenken, können wir Probleme erkennen und beheben. Nehmen wir ein Modell, das eine Krankheit erkennen soll, die bei 1% der Bevölkerung auftritt. Wenn das Modell immer vorhersagt, dass die Person gesund ist, hat das Modell eine Trefferquote von 99%. Ohne Kontext ist dies ein ausgezeichnetes Ergebnis. Dennoch ist dieses Modell nutzlos.

Mithilfe von einfachen, univariaten und bivariaten dataset-Statistiken können Sie einige Verzerrungen erkennen. Ist zum Beispiel jede Altersgruppe gleich stark vertreten? Eine Lösung könnte darin bestehen, kontinuierliche data in kategorische data zu ändern. Korrelationsmatrizen können auch Verbindungen zwischen zwei verwandten Variablen überprüfen. All diese vorgelagerten Arbeiten sind entscheidend, um sicherzustellen, dass die Modelle auf hochwertigen data-Sets trainiert werden. Kurz und gut: “Müll rein, Müll raus”.

Leistungsstarke KI-Systeme, wie z.B. künstliche neuronale Netze, sind sehr effizient und werden in zahlreichen Anwendungsfällen eingesetzt. Sie sind jedoch schwer zu interpretieren, weshalb sie oft als “Blackbox-Modelle” bezeichnet werden. Die große Herausforderung des maschinellen Lernens besteht darin, die Ursache von Verzerrungen zu erkennen und zu erklären, anstatt ihre Folgen zu ignorieren. Es besteht ein Zielkonflikt zwischen Erklärbarkeit und Genauigkeit. Einige Algorithmen wie Entscheidungsbäume sind sehr gut erklärbar, aber weniger nützlich für komplexere Vorhersagen.

Der Bereich der erklärbaren KI (Ex-AI) versucht, dieses Problem zu lösen, indem er Methoden und Algorithmen entwickelt, die die Erklärbarkeit von Systemen erhöhen. Man kann entweder ein globales Verständnis erforschen, das erklärt, wie eine KI auf die globale Bevölkerung wirkt, oder ein lokales Verständnis, das erklärt, wie der Algorithmus auf ein bestimmtes Beispiel wirkt. Letzteres wird von der Datenschutz-Grundverordnung vorgeschrieben, denn um transparent zu sein, muss eine KI in der Lage sein zu erklären, warum das Modell eine bestimmte Entscheidung für eine bestimmte Person/ein bestimmtes Objekt/data Zeile getroffen hat. Es ist wichtig, sowohl das globale als auch das lokale Verständnis zu betrachten, um zu verstehen, wie sich das Modell verhält.

Um dies zu tun, können data-Wissenschaftler die Signifikanzvariablen des Modells betrachten. Es ist zum Beispiel nicht normal, dass in einem Rekrutierungsmodell das Geschlecht eine wichtige Variable ist. Sie können auch Metriken überprüfen, wie zum Beispiel Genauigkeit (Anzahl der gut vorhergesagten Positiven = richtig positiv geteilt durch alle vorhergesagten Positiven = richtig positiv + falsch positiv), F1-Score (fasst die Werte für Genauigkeit und Rückruf in einer einzigen Metrik), oder Rückruf (Anzahl der gut vorhergesagten Positiven = wahres Positiv geteilt durch alle Positiven = wahres Positiv + falsches Negativ), in Bezug auf eine Variable (z. B. Genauigkeit für women vs. Männer).

“Die große Herausforderung des maschinellen Lernens besteht darin, die Ursache von Verzerrungen zu identifizieren und zu erklären, anstatt ihre Folgen abzutun.”

Quellen für Fehlfunktionen in Modellen der Künstlichen Intelligenz können zufällig sein, wenn data beschädigt wird, oder absichtlich, wenn sie z.B. von Hackern verursacht werden. Beide Quellen von Verzerrungen führen dazu, dass KI-Modelle falsche Vorhersagen oder Ergebnisse liefern. Einige Lösungen ermöglichen die Bewertung, Verteidigung und Überprüfung von Modellen und Anwendungen für maschinelles Lernen gegen gegensätzliche Bedrohungen, die auf das data (data Poisoning), das Modell (Model Leakage) oder die zugrunde liegende Infrastruktur, sowohl Hardware als auch Software, abzielen könnten.

Fotoquelle: https://arxiv.org/pdf/1412.6572.pdf

Durch einfaches Überlagern eines normalen Bildes mit einem ‘Rauschbild’ kann ein Klassifikator dazu gebracht werden, einen Panda fälschlicherweise als Gibbon zu klassifizieren. Der Unterschied ist für das menschliche Auge nicht wahrnehmbar, aber es ist gut dokumentiert, dass diese Technik KI-Modelle in die Irre führen kann.

Der Begriff der vertrauenswürdigen KI lässt sich nicht auf seine rechtliche und technische Konzeption reduzieren. Menschliche und organisatorische Aspekte sind entscheidend für den Erfolg eines ethischen Ansatzes für KI. Ethische Chartas und Verbesserungslösungen müssen allen Beteiligten bekannt sein, während des gesamten Entstehungsprozesses angewendet und im Laufe der Zeit befolgt werden. Dies erfordert eine Veränderung der Unternehmenskultur, um ethische Fragen und Ansätze tiefgreifend zu integrieren, die Nachhaltigkeit der Lösungen zu gewährleisten und zu einer ethischen KI beizutragen. nach Entwurf.

KI an sich ist weder ethisch noch unethisch. Es ist nur die Art und Weise, wie das System trainiert wird oder wie es eingesetzt wird, die ethisch ist oder nicht. Das wahre ethische Risiko im Zusammenhang mit dem massiven Einsatz von KI besteht also nicht darin, dass die Algorithmen rebellieren könnten. Das Risiko besteht vielmehr darin, dass die KI sich genau so verhält, wie wir es von ihr verlangt haben. Sie ahmt unsere Voreingenommenheit nach, wiederholt unsere Fehler und verstärkt unsere Unsicherheiten und Ungenauigkeiten.

“Das Risiko entsteht genau dann, wenn sich die KI genau so verhält, wie wir es von ihr verlangt haben.”

Dieses Thema liegt uns am Herzen bei Artefact, Aus diesem Grund haben wir Teams für dieses Thema gebildet und spezielle Unterstützung bei der Entwicklung von Governance, der Implementierung technischer Lösungen und der KI-Strategieberatung entwickelt.

Wir arbeiten eng mit der akademischen Welt zusammen und sind ein Partner der Gut in Technik Lehrstuhl, der gemeinsam vom Institut Mines-Télécom und Sciences Po gegründet wurde, um die Kluft zwischen Forschung und Praxis zu verringern. Artefact hat auch das Label "Responsible and Trusted AI" erhalten, das von der unabhängigen Vereinigung Labelia Labs, die einen hohen Reifegrad beim Thema verantwortungsvolle und vertrauenswürdige KI garantiert.

Die Frage der Ethik geht uns alle an, und es ist wichtig, bei diesem Thema proaktiv vorzugehen; die Übernahme ethischen Verhaltens sollte nicht nur eine Reaktion sein. Die künstliche Intelligenz befindet sich in einer Entwicklungsphase, in der ihre Prozesse und ihr Ethos erst noch definiert werden müssen. In einem Bereich, der noch nicht reguliert ist, ist es an denjenigen, die eine aktive Rolle spielen, die Führung zu übernehmen. Als Entwickler, Berater und Manager liegt es in unserer Verantwortung, die Erwartungen aller Beteiligten zu erfüllen - nicht nur der Kunden und Dienstleistungsnutzer, sondern der Gesellschaft im Allgemeinen - und die Macht der KI zu nutzen, um eine bessere Welt zu schaffen.