Das KI-Gesetz: Ein Rechtsrahmen mit einem risikobasierten Ansatz zur Gewährleistung einer vertrauenswürdigen Nutzung von KI-Modellen
Quelle: Europäische Kommission
Das KI-Gesetz ist weltweit der erste umfassende Rechtsrahmen für künstliche Intelligenz. Es zielt darauf ab, Grundrechte, Demokratie, Rechtsstaatlichkeit und ökologische Nachhaltigkeit vor hochriskanter KI, während die Innovation voranzutreiben und Europa als führende Kraft in diesem Bereich zu etablieren. Die Verordnung legt Verpflichtungen für KI fest, die sich nach deren potenziellen Risiken und dem Ausmaß ihrer Auswirkungen richten.
Die neuen Vorschriften sehen Folgendes vor:
Risiken angehen, die speziell durch KI-Anwendungen entstehen;
KI-Anwendungen, die inakzeptable Risiken bergen, zu verbieten;
Legen Sie klare Anforderungen an KI-Systeme für risikoreiche Anwendungen fest;
Festlegung spezifischer Verpflichtungen für Betreiber und Anbieter von KI-Anwendungen mit hohem Risiko;
vor der Einführung oder dem Inverkehrbringen von KI-Systemen Konformitätsbewertungen vorschreiben;
die Durchsetzung von Vorschriften nach der Markteinführung eines bestimmten KI-Systems sicherstellen;
Schaffung einer Steuerungsstruktur auf europäischer und nationaler Ebene.
Alle KI-Systeme, die als eindeutige Bedrohung für die Sicherheit, die Lebensgrundlagen und die Rechte der Menschen angesehen werden, werden verboten – von der sozialen Bewertung durch Regierungen bis hin zu Spielzeugen mit Sprachassistenz, die zu gefährlichem Verhalten anregen.
Das KI-Gesetz: Die Wahrnehmung einer Regulierung in eine Chance zur Neugestaltung verwandeln
SEHEN SIE SICH DAS VIDEO AN
(Bei Videos können Sie Untertitel in Ihrer Sprache direkt auf YouTube aktivieren – sehen Sie dazu in den Einstellungen nach.)
Nachdem das KI-Gesetz nun verabschiedet wurde, Es ist an der Zeit, dass Unternehmen gemeinsam mit den Aufsichtsbehörden an Standards und bewährten Verfahren arbeiten.. Die umfangreiche Erfahrung von Artefact bei der Unterstützung großer Unternehmen im Bereich data und der digitalen Transformation hat gezeigt, dass Unternehmen durch die Nutzung regulatorischer Vorgaben wie der DSGVO in der Lage waren, ihre Prozesse zu überdenken und ihre Kundenkenntnisse zu verbessern. Dadurch haben sie ihre Geschäfts- und Marketingeffizienz gesteigert, das Kundenerlebnis personalisiert und vieles mehr.
Um unseren Kunden dabei zu helfen, die Vorschriften des AI Act von Anfang an in die Entwicklung von KI-Modellen in ihren Unternehmen zu integrieren, inspiriert vom Grundsatz der “Privacy by Design”, Artefact nutzt für seine Kunden Plattformen wie naaia, dass Vorschriften in konkrete operative Abläufe umsetzen und stellen Checklisten bereit, die sicherstellen, dass KI-Projekte den Vorschriften entsprechen.
Nathalie Beslay, Geschäftsführerin und Mitbegründerin von naaia, teilt unsere Philosophie und unseren Ansatz. Sie erläutert die Zeitplan für neue Vorschriften die Unternehmen einhalten müssen. Das KI-Gesetz ist eine “horizontale Produktvorschrift”, die einen durchgängigen Ansatz in allen Produktionsphasen verfolgt und für Unternehmen jeder Art gilt, unabhängig von ihrer Größe und davon, ob es sich um private oder öffentliche Unternehmen handelt.
Nathalie beleuchtet verschiedene Aspekte der KI-Compliance: Technologie und Tools, Compliance und rechtliche Aspekte, verbotene KI-Anwendungen, Risiken und Chancen, zukünftige Trends und Skalierbarkeit sowie Kosten und ROI.
Vertrauenswürdige KI: Neue Herausforderungen und data-driven-Lösungen
Die Reproduktion menschlicher Vorurteile und Stereotypen stellt das größte Risiko im Zusammenhang mit dem massenhaften Einsatz von artificial intelligence dar. Die Herausforderung für die KI besteht darin,
die den ethischen Erwartungen unserer Gesellschaft entsprechen. Dies ist ein gewaltiges Unterfangen: Ethik ist ein Thema, das sich über den gesamten Lebenszyklus von
KI ist die Automatisierung der Entscheidungsfindung. Die ethischen Risiken liegen nicht darin, dass KI möglicherweise fehlerhaft automatisiert, sondern im Gegenteil darin, dass sie menschliche Entscheidungen – mit all ihren Fehlern und Vorurteilen – perfekt nachahmt.. Viele dieser Fehlfunktionen sind auf den kulturellen Kontext zurückzuführen, in dem die KI entwickelt wurde, wenn sie die historischen Wertesysteme einer Gesellschaft (beispielsweise geschlechtsspezifische oder ethnische Ungleichheit) oder die ihrer Entwickler (Bildungshintergrund, politische Sensibilität, religiöse Praktiken usw.) widerspiegelt.
Da sich KI-Modelle von Konzepten zu Produkten weiterentwickelt haben, haben viele Es wurden technische Lösungen entwickelt um die Automatisierung und den Einsatz von KI-Systemen zu erleichtern. Verzerrungen können sowohl technischer Natur sein (ausgelassene Variablen, database oder Selektionsprobleme) als auch sozialer Natur (wirtschaftlicher, kognitiver oder emotionaler Art). Nur durch kritisches Hinterfragen der verschiedenen Kennzahlen, die mit einem KI-Modell verbunden sind, können wir Probleme erkennen und beheben. Es besteht ein Zielkonflikt zwischen Erklärbarkeit und Genauigkeit. Einige Algorithmen, wie beispielsweise Entscheidungsbäume, sind sehr gut erklärbar, für komplexere Vorhersagen jedoch weniger geeignet.
“Der Begriff der vertrauenswürdigen KI lässt sich jedoch nicht auf seine rechtlichen und technischen Aspekte reduzieren. Dies erfordert eine Veränderung der Unternehmenskultur ”um ethische Fragen und Ansätze tiefgreifend zu integrieren, die Nachhaltigkeit der Lösungen zu gewährleisten und zu einer von Grund auf ethisch gestalteten KI beizutragen“,”
Vincent Luciani, Geschäftsführer und Mitbegründer von Artefact
Das Versprechen der KI einlösen: Die Rolle der Ethik bei der Entwicklung verantwortungsvoller, unvoreingenommener Modelle.
Die Entwicklung der KI und des maschinellen Lernens hat hat die traditionellen Methoden der Kategorisierung von Menschen und Inhalten auf den Kopf gestellt. Anstatt sich auf statische demografische Merkmale zu stützen, nutzen KI-Modelle mittlerweile riesige Mengen an Verhaltensdaten, um Entscheidungsprozesse zu unterstützen. Dieser Paradigmenwechsel bringt nicht nur technische Herausforderungen mit sich, sondern löst auch tiefgreifende philosophische Debatten über die Konstruktion und die Auswirkungen von Kategorien in der Gesellschaft aus.
In einem kürzlich geführten Interview mit Artefact, Jean-Marie John-Mathews, Dr., Mitbegründer von Giskard AI, erläutert, wie die Verwendung von Klassifizierung data wie Alter, Geschlecht, ethnische Zugehörigkeit und sozioökonomischer Status, beispielsweise bei einer Bank, beträgt problematisch und sogar unethisch, sondern durch Folgendes zu ersetzen: Verhaltensbezogene data wie beispielsweise der Transaktionsverlauf trägt dazu bei, Voreingenommenheit oder Diskriminierung zu verringern.
Indem wir diese neuen Kategorisierungsansätze übernehmen und den Dialog zwischen allen Beteiligten fördern, Unternehmen können sich erfolgreich in der neuen ethischen Landschaft zurechtfinden. Es geschieht durch gemeinsame Vorausschau und Überwachung dass Unternehmen das transformative Potenzial der KI nutzen und gleichzeitig unbeabsichtigte Folgen abmildern können.
Artefact International Adopt AI-Gipfel, 5. Juni 2024 in der Station F in Paris
JETZT ANMELDEN
Adopt AI wird der größte KI-Gipfel sein, an dem 100 Referenten von Weltklasse teilnehmen und zu dem 2000 Führungskräfte aus Wirtschaft und Technologie erwartet werden. Tauchen Sie ein in Vorträge und Diskussionen über die positiven Auswirkungen von data und KI auf Wirtschaft, Gesellschaft und unseren Planeten! .
Unter der Schirmherrschaft von Herr Emmanuel Macron, Präsident der Französischen Republik, Diese einzigartige ganztägige Konferenz wird sich auf drei Hauptbühnen konzentrieren, um positive Inspiration und umsetzbare Erkenntnisse zu data und KI zu vermitteln:
Die Vision-Phase – “Visionen gestalten: Wo Wirtschaft und KI morgen aufeinandertreffen.”
Die Tech-Bühne – “Technologien erschließen: Die neuen Grenzen der generativen KI.”
Die Gesellschaftsbühne – “KI für die Gesellschaft: Gestaltung einer ethischen und nachhaltigen Zukunft.”
Entdecken Sie alle bisher angekündigten Referenten – darunter CEOs und CDOs großer Unternehmen sowie Gründer innovativer GenAI-Start-ups und Scale-ups – und viele weitere, die noch folgen werden!
Bitte überprüfen Sie regelmäßig
Der Tag findet seinen Höhepunkt in der offizielle Start des Artefact AI Film Festivals, ein internationaler Kurzfilmwettbewerb, der allen offensteht und die Kreativität von Künstlern würdigt, die artificial intelligence nutzen – in Zusammenarbeit mit mk2, einer der führenden Arthouse-Kinogruppen Europas.
Es ist uns eine Ehre, Jean-Pierre Jeunet, der Regisseur von “Die fabelhafte Welt der Amélie” und “Delicatessen” sowie weiterer berühmter Filme als Vorsitzender der Jury.
Besuchen Sie die offizielle Website des Artefact-Filmfestivals: artefact-ai-film-festival.com
PROGRAMME ZUR DATENBESCHLEUNIGUNG | KI-LÖSUNGEN | DATENMARKETING
