![\"Jaune](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2022\/10\/LOGOJR_fav.jpeg\" "\\"Jaune-Rouge-Logo\\"")
<\/span><\/div>Die Science-Fiction ist voll von Geschichten \u00fcber rebellische KIs, in denen Maschinen nach ihren eigenen ruchlosen Wertesystemen handeln. Erinnern Sie sich an HAL 9000 in Space Odyssey oder Skynet in Terminator? Aber im wirklichen Leben sind KI-Systeme und Algorithmen weithin in allt\u00e4gliche Aktivit\u00e4ten wie Online-Eink\u00e4ufe, Kreditantr\u00e4ge oder die Nutzung sozialer Netzwerke integriert. Obwohl F\u00e4lle von abtr\u00fcnniger KI gl\u00fccklicherweise der Fantasie von Autoren vorbehalten bleiben, sind KI-Abweichungen und Fehlfunktionen inzwischen allt\u00e4glich und haben oft sehr reale Konsequenzen.\u00a0 Wir haben alle die Bilder gesehen, die von KIs wie Dall-E 2 erzeugt werden. Es ist ein unschuldiger Spa\u00df, ein Bild von einem Teddyb\u00e4ren zu erstellen, der unter Wasser Musik h\u00f6rt. Aber ist Ihnen bewusst, dass die Algorithmen <\/a>die Geschlechterstereotypen perpetuieren, indem sie M\u00e4nner in Bildern von \u00c4rzten, Piloten und CEOs \u00fcberrepr\u00e4sentieren, w\u00e4hrend women in Bildern von Krankenschwestern, Flugbegleitern und Sekret\u00e4rinnen \u00fcberrepr\u00e4sentiert ist?<\/p>\n Angesichts der massiven Anzahl allt\u00e4glicher Entscheidungen, die an KI delegiert werden, k\u00f6nnen wir die ethischen Fragen, die ihr Einsatz aufwirft, nicht ignorieren. KI ist nach wie vor ein Markt und eine Technologie, die nur unzureichend gesetzlich geregelt ist (obwohl die Europ\u00e4ische Kommission aktiv an zuk\u00fcnftigen Regelungen arbeitet). Es liegt daher in der Verantwortung eines jeden Einzelnen, die Nutzer zu sch\u00fctzen.<\/p>\n Die Herausforderung f\u00fcr KI besteht darin, vertrauensw\u00fcrdige Systeme zu schaffen nach Entwurf<\/em> die den ethischen Erwartungen unserer Gesellschaft entsprechen. Wir m\u00fcssen uns unbedingt darauf vorbereiten, jetzt damit zu beginnen, vertrauensw\u00fcrdige KI-Systeme zu entwickeln und zu pflegen. Das ist ein gewaltiges Unterfangen: Ethik ist ein Thema, das sich durch den gesamten Lebenszyklus eines Produkts zieht.<\/p>\n<\/div> K\u00fcnstliche Intelligenz ist eine Reihe von Theorien und Techniken, die es einer Maschine erm\u00f6glichen, Entscheidungen zu treffen, wenn sie mit einer vordefinierten Situation konfrontiert wird. Mit anderen Worten: Sie simuliert die menschliche Intelligenz. Solche Programme k\u00f6nnen entweder deterministisch<\/strong>, bei denen aufeinanderfolgende Regeln nach einem Entscheidungsschema angewendet werden, oder probabilistisch<\/strong>, Das Programm kann, nachdem es aus \u00e4hnlichen Situationen in der Vergangenheit gelernt hat, ableiten, wie die \u2018richtige\u2019 Entscheidung aussehen sollte. Dies wird auch als Maschinelles Lernen.<\/strong><\/p>\n Unabh\u00e4ngig von der Art des Programms ist KI die Automatisierung von Entscheidungen. Die ethischen Risiken liegen nicht in der Tatsache, dass KI schlecht automatisieren kann, sondern im Gegenteil darin, dass sie menschliche Entscheidungen perfekt nachahmt, mit ihrer Last an Fehlern und Voreingenommenheit. Viele dieser Fehlfunktionen ergeben sich aus dem kulturellen Kontext, in dem die KI entwickelt wurde, wenn sie die historischen Wertesysteme einer Gesellschaft (z. B. geschlechtsspezifische oder ethnische Ungleichheit) oder die ihrer Entwickler (Bildung, politische Sensibilit\u00e4t, religi\u00f6se Praktiken usw.) nachahmt.<\/p>\n Diese Verzerrungen sind bei Algorithmen des maschinellen Lernens besonders ausgepr\u00e4gt, da sie auf alten data-Basisdaten trainiert werden und von der Vergangenheit auf die Zukunft schlie\u00dfen.<\/p>\n Die wesentlichen Fragen, die mit der Konzeption und Entwicklung einer vertrauensw\u00fcrdigen KI verbunden sind, betreffen sowohl technische als auch ethische Themen, wie z. B.: Wie lassen sich m\u00f6gliche Verzerrungen in einer KI zuverl\u00e4ssig erkennen? Wie interpretiert man die Ergebnisse eines Modells? K\u00f6nnen wir die Entwicklung der Leistung einer KI messen? Welche Sicherheitsgarantien k\u00f6nnen wir geben? K\u00f6nnen wir auf ein Abdriften reagieren? Diese nicht ersch\u00f6pfende Liste spiegelt die Vielfalt der Herausforderungen wider, die bei der Entwicklung einer KI zu bew\u00e4ltigen sind.<\/p>\n<\/div> Da sich KI-Modelle von Konzepten zu Produkten entwickelt haben, wurden viele technische L\u00f6sungen geschaffen, um die Automatisierung und den Einsatz von KI-Systemen zu erleichtern. In j\u00fcngster Zeit ist die Zahl der verf\u00fcgbaren technischen L\u00f6sungen explodiert und hat ein reichhaltiges \u00d6kosystem geschaffen, das durch st\u00e4ndige Innovationen von Start-ups und Branchenf\u00fchrern gleicherma\u00dfen angeheizt wird. Bemerkenswerte Beispiele sind die Allianz f\u00fcr KI-Infrastruktur<\/a> und die MLOps Gemeinschaft<\/a>, zu denen auch Artefact geh\u00f6rt. Das richtige Werkzeug f\u00fcr die richtige Aufgabe zu finden, wird also immer wichtiger und schwieriger.<\/p>\n Gleichzeitig hat sich ein ebenso lebendiges \u00d6kosystem von Beratungsunternehmen entwickelt, die ihre Kunden bei diesen strategischen Entscheidungen unterst\u00fctzen.<\/p>\n Viele dieser technischen L\u00f6sungen existieren als Open Source und sind f\u00fcr alle frei verf\u00fcgbar. Diese Toolkits k\u00f6nnen Verzerrungen entlang der gesamten data-Verarbeitungskette erkennen und messen: von der Erfassung bis zur Verwertung, einschlie\u00dflich Transformation und Modellierung. Diese L\u00f6sungen m\u00fcssen w\u00e4hrend des gesamten Produktlebenszyklus implementiert werden, sowohl in der Design- und Entwicklungsphase als auch in der Produktion, um eine dauerhafte Korrektur zu gew\u00e4hrleisten. Es gibt drei besondere Bereiche, die mit technischen L\u00f6sungen angegangen werden k\u00f6nnen.<\/p>\n<\/div> Vorurteile entstehen nicht bei data-Wissenschaftlern, sondern bei data-Sets. Deshalb ist es notwendig, zun\u00e4chst die data-Sets zu erforschen und gr\u00fcndlich dar\u00fcber nachzudenken. Verzerrungen k\u00f6nnen sowohl technischer Art sein (ausgelassene Variablen, data-Basis oder Selektionsprobleme) als auch sozialer Art (wirtschaftlich, kognitiv, emotional).<\/p>\n Um die Trainingss\u00e4tze zu korrigieren, k\u00f6nnte es logisch erscheinen, alle Spuren von empfindlichem data zu l\u00f6schen. Dies w\u00e4re jedoch ebenso nutzlos wie gef\u00e4hrlich: zum einen, weil nicht-empfindliche data heimt\u00fcckisch mit empfindlichen data korreliert werden k\u00f6nnen, und zum anderen, weil diese Art von Abk\u00fcrzung dazu verleitet, regelm\u00e4\u00dfige Kontrollen von data und Prozessen einzuschr\u00e4nken.<\/p>\n Um diese Verzerrungen zu erkennen, muss man sich ihrer Existenz bewusst sein und wissen, wonach man suchen muss. Es ist wichtig, den Kontext des data zu verstehen, um ihn richtig interpretieren zu k\u00f6nnen. Ein einzelnes Programm kann Verzerrungen nicht erkennen, daher sind verschiedene Teams von data-Wissenschaftlern so wichtig.<\/p>\n Indem wir kritisch \u00fcber die verschiedenen mit einem KI-Modell verbundenen Metriken nachdenken, k\u00f6nnen wir Probleme erkennen und beheben. Nehmen wir ein Modell, das eine Krankheit erkennen soll, die bei 1% der Bev\u00f6lkerung auftritt. Wenn das Modell immer vorhersagt, dass die Person gesund ist, hat das Modell eine Trefferquote von 99%. Ohne Kontext ist dies ein ausgezeichnetes Ergebnis. Dennoch ist dieses Modell nutzlos.<\/p>\n Mithilfe von einfachen, univariaten und bivariaten dataset-Statistiken k\u00f6nnen Sie einige Verzerrungen erkennen. Ist zum Beispiel jede Altersgruppe gleich stark vertreten? Eine L\u00f6sung k\u00f6nnte darin bestehen, kontinuierliche data in kategorische data zu \u00e4ndern. Korrelationsmatrizen k\u00f6nnen auch Verbindungen zwischen zwei verwandten Variablen \u00fcberpr\u00fcfen. All diese vorgelagerten Arbeiten sind entscheidend, um sicherzustellen, dass die Modelle auf hochwertigen data-Sets trainiert werden. Kurz und gut: \u201cM\u00fcll rein, M\u00fcll raus\u201d.<\/span><\/p>\n<\/div> Leistungsstarke KI-Systeme, wie z.B. k\u00fcnstliche neuronale Netze, sind sehr effizient und werden in zahlreichen Anwendungsf\u00e4llen eingesetzt. Sie sind jedoch schwer zu interpretieren, weshalb sie oft als \u201cBlackbox-Modelle\u201d bezeichnet werden. Die gro\u00dfe Herausforderung des maschinellen Lernens besteht darin, die Ursache von Verzerrungen zu erkennen und zu erkl\u00e4ren, anstatt ihre Folgen zu ignorieren. Es besteht ein Zielkonflikt zwischen Erkl\u00e4rbarkeit und Genauigkeit. Einige Algorithmen wie Entscheidungsb\u00e4ume sind sehr gut erkl\u00e4rbar, aber weniger n\u00fctzlich f\u00fcr komplexere Vorhersagen.<\/p>\n Der Bereich der erkl\u00e4rbaren KI (Ex-AI) versucht, dieses Problem zu l\u00f6sen, indem er Methoden und Algorithmen entwickelt, die die Erkl\u00e4rbarkeit von Systemen erh\u00f6hen. Man kann entweder ein globales Verst\u00e4ndnis erforschen, das erkl\u00e4rt, wie eine KI auf die globale Bev\u00f6lkerung wirkt, oder ein lokales Verst\u00e4ndnis, das erkl\u00e4rt, wie der Algorithmus auf ein bestimmtes Beispiel wirkt. Letzteres wird von der Datenschutz-Grundverordnung vorgeschrieben, denn um transparent zu sein, muss eine KI in der Lage sein zu erkl\u00e4ren, warum das Modell eine bestimmte Entscheidung f\u00fcr eine bestimmte Person\/ein bestimmtes Objekt\/data Zeile getroffen hat. Es ist wichtig, sowohl das globale als auch das lokale Verst\u00e4ndnis zu betrachten, um zu verstehen, wie sich das Modell verh\u00e4lt.<\/p>\n Um dies zu tun, k\u00f6nnen data-Wissenschaftler die Signifikanzvariablen des Modells betrachten. Es ist zum Beispiel nicht normal, dass in einem Rekrutierungsmodell das Geschlecht eine wichtige Variable ist. Sie k\u00f6nnen auch Metriken \u00fcberpr\u00fcfen, wie zum Beispiel Genauigkeit<\/em> (Anzahl der gut vorhergesagten Positiven = richtig positiv geteilt durch alle vorhergesagten Positiven = richtig positiv + falsch positiv), F1-Score (fasst die Werte f\u00fcr Genauigkeit und R\u00fcckruf<\/em> in einer einzigen Metrik), oder R\u00fcckruf<\/em> (Anzahl der gut vorhergesagten Positiven = wahres Positiv geteilt durch alle Positiven = wahres Positiv + falsches Negativ), in Bezug auf eine Variable (z. B. Genauigkeit f\u00fcr women vs. M\u00e4nner).<\/p>\n<\/div> Quellen f\u00fcr Fehlfunktionen in Modellen der K\u00fcnstlichen Intelligenz k\u00f6nnen zuf\u00e4llig sein, wenn data besch\u00e4digt wird, oder absichtlich, wenn sie z.B. von Hackern verursacht werden. Beide Quellen von Verzerrungen f\u00fchren dazu, dass KI-Modelle falsche Vorhersagen oder Ergebnisse liefern. Einige L\u00f6sungen erm\u00f6glichen die Bewertung, Verteidigung und \u00dcberpr\u00fcfung von Modellen und Anwendungen f\u00fcr maschinelles Lernen gegen gegens\u00e4tzliche Bedrohungen, die auf das data (data Poisoning), das Modell (Model Leakage) oder die zugrunde liegende Infrastruktur, sowohl Hardware als auch Software, abzielen k\u00f6nnten.<\/p>\n<\/div> Fotoquelle: https:\/\/arxiv.org\/pdf\/1412.6572.pdf<\/a><\/em><\/p>\n \u00a0<\/span><\/p>\n<\/div> Durch einfaches \u00dcberlagern eines normalen Bildes mit einem \u2018Rauschbild\u2019 kann ein Klassifikator dazu gebracht werden, einen Panda f\u00e4lschlicherweise als Gibbon zu klassifizieren. Der Unterschied ist f\u00fcr das menschliche Auge nicht wahrnehmbar, aber es ist gut dokumentiert, dass diese Technik KI-Modelle in die Irre f\u00fchren kann. Der Begriff der vertrauensw\u00fcrdigen KI l\u00e4sst sich nicht auf seine rechtliche und technische Konzeption reduzieren. Menschliche und organisatorische Aspekte sind entscheidend f\u00fcr den Erfolg eines ethischen Ansatzes f\u00fcr KI. Ethische Chartas und Verbesserungsl\u00f6sungen m\u00fcssen allen Beteiligten bekannt sein, w\u00e4hrend des gesamten Entstehungsprozesses angewendet und im Laufe der Zeit befolgt werden. Dies erfordert eine Ver\u00e4nderung der Unternehmenskultur, um ethische Fragen und Ans\u00e4tze tiefgreifend zu integrieren, die Nachhaltigkeit der L\u00f6sungen zu gew\u00e4hrleisten und zu einer ethischen KI beizutragen. nach Entwurf<\/em>.<\/p>\n KI an sich ist weder ethisch noch unethisch. Es ist nur die Art und Weise, wie das System trainiert wird oder wie es eingesetzt wird, die ethisch ist oder nicht. Das wahre ethische Risiko im Zusammenhang mit dem massiven Einsatz von KI besteht also nicht darin, dass die Algorithmen rebellieren k\u00f6nnten. Das Risiko besteht vielmehr darin, dass die KI sich genau so verh\u00e4lt, wie wir es von ihr verlangt haben. Sie ahmt unsere Voreingenommenheit nach, wiederholt unsere Fehler und verst\u00e4rkt unsere Unsicherheiten und Ungenauigkeiten.<\/p>\n Dieses Thema liegt uns am Herzen bei Artefact<\/a>, Aus diesem Grund haben wir Teams f\u00fcr dieses Thema gebildet und spezielle Unterst\u00fctzung bei der Entwicklung von Governance, der Implementierung technischer L\u00f6sungen und der KI-Strategieberatung entwickelt.<\/p>\n Wir arbeiten eng mit der akademischen Welt zusammen und sind ein Partner der Gut in Technik<\/a> Lehrstuhl, der gemeinsam vom Institut Mines-T\u00e9l\u00e9com und Sciences Po gegr\u00fcndet wurde, um die Kluft zwischen Forschung und Praxis zu verringern. Artefact hat auch das Label \"Responsible and Trusted AI\" erhalten, das von der unabh\u00e4ngigen Vereinigung Labelia Labs<\/a>, die einen hohen Reifegrad beim Thema verantwortungsvolle und vertrauensw\u00fcrdige KI garantiert.<\/p>\n Die Frage der Ethik geht uns alle an, und es ist wichtig, bei diesem Thema proaktiv vorzugehen; die \u00dcbernahme ethischen Verhaltens sollte nicht nur eine Reaktion sein. Die k\u00fcnstliche Intelligenz befindet sich in einer Entwicklungsphase, in der ihre Prozesse und ihr Ethos erst noch definiert werden m\u00fcssen. In einem Bereich, der noch nicht reguliert ist, ist es an denjenigen, die eine aktive Rolle spielen, die F\u00fchrung zu \u00fcbernehmen. Als Entwickler, Berater und Manager liegt es in unserer Verantwortung, die Erwartungen aller Beteiligten zu erf\u00fcllen - nicht nur der Kunden und Dienstleistungsnutzer, sondern der Gesellschaft im Allgemeinen - und die Macht der KI zu nutzen, um eine bessere Welt zu schaffen.<\/p>\n<\/div><\/div><\/div><\/div><\/article><\/p>","protected":false},"excerpt":{"rendered":" Um ethische KI zu schaffen, m\u00fcssen Entwickler data-driven, vertrauensw\u00fcrdige KI-L\u00f6sungen auf technische, rechtliche und humanistische Weise entwerfen.<\/p>","protected":false},"author":[],"featured_media":68983,"template":"","meta":{"_acf_changed":false,"ep_exclude_from_search":false},"news-category":[2819],"news-language":[311],"class_list":["post-68976","news","type-news","status-publish","has-post-thumbnail","hentry","news-category-news-france","news-language-en"],"acf":[],"_links":{"self":[{"href":"https:\/\/www.artefact.com\/de\/wp-json\/wp\/v2\/news\/68976","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.artefact.com\/de\/wp-json\/wp\/v2\/news"}],"about":[{"href":"https:\/\/www.artefact.com\/de\/wp-json\/wp\/v2\/types\/news"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.artefact.com\/de\/wp-json\/wp\/v2\/media\/68983"}],"wp:attachment":[{"href":"https:\/\/www.artefact.com\/de\/wp-json\/wp\/v2\/media?parent=68976"}],"wp:term":[{"taxonomy":"author","embeddable":true,"href":"https:\/\/www.artefact.com\/de\/wp-json\/wp\/v2\/author?post=68976"},{"taxonomy":"news-category","embeddable":true,"href":"https:\/\/www.artefact.com\/de\/wp-json\/wp\/v2\/news-category?post=68976"},{"taxonomy":"news-language","embeddable":true,"href":"https:\/\/www.artefact.com\/de\/wp-json\/wp\/v2\/news-language?post=68976"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}
\n<\/span><\/p>\n<\/div>Mit Ethik gegen Stereotypen ank\u00e4mpfen<\/h2><\/div>
K\u00fcnstliche Intelligenz, die menschliche Fehler reproduziert<\/h2><\/div>
KI nutzen, um KI-Fehler zu korrigieren<\/h2><\/div>
\n
Korrektur von Vorurteilen in der KI<\/h2><\/div>
Erkl\u00e4ren der Ergebnisse eines Modells<\/h2><\/div>
\n
Verbesserung der Robustheit eines Modells<\/h2><\/div>
![\"both](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2023\/02\/both-hardware-and-software.png\" "\\"sowohl")
<\/span><\/div>
\n<\/span><\/p>\n<\/div>Entwicklung von weniger menschlichen, aber humanistischeren Systemen<\/h2><\/div>
\n
Proaktiv sein bei ethischer KI<\/h2><\/div>