Das AI : Die Bedeutung der Einhaltung gesetzlicher Vorschriften – und was für Unternehmen jeder Art und Größe auf dem Spiel steht

Sehen Sie sich das Video Data “ an 

Hören Sie sich den Podcast an 

Nathalie Beslay ist Geschäftsführerin und Mitbegründerin von Naaia, einem Anbieter von Compliance- und Risikomanagement-Lösungen für die artificial intelligence . Nathalie ist seit 2004 als Rechtsanwältin tätig und hat sich auf die Gesundheits- und Schönheitsbranche spezialisiert. Sie ist hervorragend qualifiziert, um regulatorische Fragen zu erörtern, da sie für das Seville Institute for Prospective Technological Studies ein Projekt zu den Herausforderungen und Risiken der Einführung neuer Technologien im Gesundheitssektor geleitet hat. Außerdem war sie als technische Beraterin des französischen Staatssekretärs für Gesundheit in bioethischen Fragen sowie als General Counsel für einen Anbieter von E-Health-Lösungen tätig.

Ob im Gesundheitswesen oder AI – überall haben die Menschen mit regulatorischen Auflagen zu kämpfen. Der Schlüssel liegt darin, diese Auflagen in Chancen umzuwandeln. Das Verständnis des regulatorischen Rahmens für Gesundheitsprodukte hat mir geholfen, die Herausforderungen und Risiken des neuen AI zu begreifen, denn dieser ist genau so aufgebaut wie der für Gesundheitsprodukte: Die zugrunde liegenden Ziele sind im Wesentlichen die Sicherheit der Nutzer und der Begünstigten der Produkte.

Das AI ist als horizontale Produktvorschrift. Das bedeutet, dass er für jede Art von Unternehmen gilt, unabhängig von dessen Größe, ob privat oder öffentlich. Es gibt Ausnahmen für bestimmte Sektoren, wie beispielsweise das Militär, aber es handelt sich um eine Produktverordnung, die in ihrem Konzept und der Art der Verpflichtungen anderen Produktverordnungen ähnelt. 

Hinter seinen 400 Seiten voller komplexer Formulierungen ist das AI im Wesentlichen ein Risikomanagementsystem, ein Qualitätssicherungssystem, eine Dokumentation, eine technische Dokumentation und eine Gebrauchsanweisung. Es wurde viel über die Regulierungsschwelle gesprochen – den Punkt, an dem eine Regulierung so restriktiv ist, dass sie eine Belastung darstellt, anstatt zu positiven Zielen zu führen. Studien haben jedoch gezeigt, dass wenn Unternehmen stark digitalisiert sind, wird die Regulierung ihnen bei der Entwicklung helfen.

Damit dies geschieht, müssen Unternehmen das AI annehmen, sich damit auseinandersetzen und dessen Auflagen von vornherein in ihre Prozesse integrieren. Am besten sagt man: „Ich werde wertorientierte Compliance betreiben, ich werde prüfen, welchen Nutzen Compliance für mein Produkt und damit für meine Kunden haben kann.“

Da es sich beim AI um eine Produktverordnung handelt, werden der Lieferkette artificial intelligence unterschiedliche Verpflichtungen auferlegt, je nachdem, ob Sie Lieferant, Händler oder Anwender sind. Je nachdem, ob Sie selbst produzieren oder Fertigprodukte kaufen oder ob Sie ein Modell verwenden und dieses dann in ein AI umwandeln, werden verschiedene Phasen nebeneinander bestehen. Lieferanten müssen die Konformität nachweisen und technische Dokumentation vorlegen; Akteure, die Anpassungen vornehmen, müssen nachweisen, dass sie die Vorgaben der Lieferanten einhalten, aber auch, dass jede hinzugefügte Ebene konform, unvoreingenommen, das Urheberrecht achtet, qualitativ hochwertig ist und repräsentative data verwendet.

Der ursprüngliche Wortlaut des AI hat sich weiterentwickelt, was zum Teil auf die Stimmen derjenigen zurückzuführen ist, die sich lautstark gegen eine Regulierung ausgesprochen haben. Heute gilt die Forschungs- und Entwicklungsphase als Aufschub für Regulierungsmaßnahmen, und Open-Source-Modelle sind von der Regulierung ausgenommen, es sei denn, sie stellen ein sogenanntes systemisches Risiko dar, d. h., wenn das Risikoniveau zu hoch ist, um von der Ausnahmeregelung zu profitieren. Den Zweiflern möchte ich sagen, dass europäische AI , diese Aspekte zu berücksichtigen und diese Regeln in ihre Marketingprozesse zu integrieren. Vor allem möchte ich ihnen sagen, dass wenn man über so viel Kapazität, Macht, Intelligenz und Weitsicht verfügt wie unsere französischen und europäischen Akteure, dann ist der Aufbau und die Integration von Compliance keineswegs kompliziert.

Man darf nicht vergessen, dass sich auch AI in den USA und in China noch in der Entwicklung befindet und dass alle das gleiche Ziel verfolgen: den menschlichen Faktor bei der Nutzung dieser neuen Technologien zu bewahren und neu in den Mittelpunkt zu rücken – oder zumindest zu versuchen, dies so gut wie möglich zu tun.

Am besten sehen Sie sich den Zeitplan noch einmal an. Über das AI wird am 22. April im Europäischen Parlament abgestimmt. Im Mai wird das Gesetz im Amtsblatt veröffentlicht, und dann beginnt der Zeitplan. In sechs Monaten AI verbotene AI von den Plattformen entfernt oder in Übereinstimmung mit den Vorschriften gebracht werden. Nach einem Jahr müssen Anbieter von Allzweck artificial intelligence die Vorschriften einhalten. Nach zwei Jahren müssen alle anderen AI alle Auflagen erfüllen, wobei für KI-Systeme, deren Anpassung komplexer ist, etwas längere Fristen gelten. Mit anderen Worten: Immer wenn eine AI ein Produkt oder eine Anlage AI , das bzw. die selbst reguliert ist – beispielsweise Medizinprodukte, Gastransport oder bestimmte Werkzeugmaschinen –, räumt der Gesetzgeber 36 Monate für die Umsetzung ein, da diese Vorschriften gebündelt und geordnet werden müssen.

Also, die oberste Priorität besteht darin, verbotene KI-Systeme zu erfassen, zu identifizieren und zu überprüfen, um sie zu entfernen oder in Einklang mit den Vorschriften zu bringen. Das Ziel ist es, Compliance durch Mehrwert zu erreichen, indem wir uns fragen, wozu Compliance dient, und qualitativ hochwertige Produkte herstellen, die sicher, verständlich und erklärbar sind, einem Zweck dienen und versuchen, so wenig Energie wie möglich zu verbrauchen.

Das AI verfolgt einen risikobasierten Ansatz. Bestimmte AI wurden als „inakzeptables“ Risiko eingestuft, weshalb der Gesetzgeber diese als verboten eingestuft hat. Es gibt acht davon, darunter artificial intelligence , die eine unterschwellige Manipulation ermöglichen könnten. Die Liste umfasst auch allgemeine soziale Bewertungssysteme, d. h. die Einstufung und Kategorisierung von Personen nach wirtschaftlichem Niveau oder sozialer Stellung, jedoch in großem Maßstab. Emotionserkennungssysteme auf biometrischer Basis sind zudem am Arbeitsplatz und in Bildungseinrichtungen verboten, außer aus Sicherheitsgründen. In Produktionsstätten kann es beispielsweise erforderlich sein, den emotionalen Zustand von Personen zu erfassen, um ihre Sicherheit an einer Produktionslinie zu gewährleisten oder Schutz vor möglichen Eindringlingen zu bieten. Ein weiteres verbotenes AIS sind Gesichtserkennungssysteme zur Verbrechensbekämpfung. Diese Art der Videoüberwachung ist bestimmten Behörden und bestimmten Straftaten vorbehalten. Wenn sie für private Organisationen zulässig ist, gilt dies nur für bestimmte Straftaten, die als sehr schwerwiegend eingestuft wurden, wie Terrorismus, Verbrechen, Körperverletzung und Vergewaltigung, und dies ist im AI genau so festgelegt.

In diesem Fall müssten die Nutzer tatsächlich aufhören, das Programm zu verwenden, und OpenAI würde eine erhebliche Strafe drohen. Aber ich halte dieses Szenario für unwahrscheinlich. Ich denke, die Akteure werden sich an die Vorschriften halten. Das wird nicht einfach sein – es wird kostspielig sein und viel Planung erfordern. Compliance bedeutet, ein Budget festzulegen, um die Anforderungen zu erfüllen, sich auf den neuesten Stand zu bringen, Experten zu mobilisieren, Teams zu schulen und Compliance in die Roadmap des Unternehmens aufzunehmen. Es ist nicht einfach, aber machbar, und angesichts dessen, was auf dem Spiel steht, muss es getan werden.

Wenn wir die Regeln anwenden, prüfen wir, , inwieweit die Regel dem Produkt dienen kann. Wenn Sie beispielsweise eine Verpflichtung zur Rückverfolgbarkeit und zur Nachvollziehbarkeit über die gesamte Kette hinweg haben und Subunternehmer einsetzen, kann die Einbeziehung dieser Subunternehmer in die Qualitätssicherung eine Kostenoptimierung oder die Einführung von Standards bedeuten, und das kommt dem Produkt natürlich zugute. Wie verwandeln wir also diese Einschränkung in eine Chance? Wir prüfen, inwieweit die Regel die erforderliche Wirkung in Bezug auf Qualität und Sicherheit erzielen wird.

Bestimmte Branchen haben dies erkannt, beispielsweise die Lebensmittelindustrie. Der Nutri-Score ist eine Regelung, die Produkten zugutekommt, die sich daran halten. Er stärkt das Vertrauen der Verbraucher. Natürlich stellte der Nutri-Score eine Einschränkung in der Wertschöpfungskette dar, aber wer kann sich heute noch darüber beschweren? Alle sind sich über diese Art von Regelung einig. Die Luftfahrt ist eine weitere Branche, die weiß, dass die Einhaltung von Vorschriften und Regeln gut für ihre Produkte ist. In Branchen, in denen Sicherheit entscheidend ist, haben sie Einschränkungen in einen Vertrauensvorteil verwandelt, eine Chance, Loyalität, Verständnis und eine Bindung zu ihren Kunden aufzubauen. Das Gleiche gilt für artificial intelligence: Es ist gut, diese Vorschriften zu haben … und vielleicht sogar eine Gelegenheit, zu hinterfragen, ob wir eine bestimmte AI wirklich brauchen, wenn der Aufwand im Verhältnis zum Nutzen zu hoch ist.

General MacArthur sagte einmal den berühmten Satz: „Verlorene Schlachten lassen sich in zwei Worten zusammenfassen: zu spät.“ Es könnte zu spät sein, weil der europäische Gesetzgeber ein System aus Behörden und Sanktionen geschaffen hat, das auf Zwang setzt. Abgesehen von der Angst vor rechtlichen Konsequenzen kann es in der Marktzugangskette zu spät sein. Was AI betrifft, gibt es heute kaum einen Akteur, der nicht von „Vertrauen“, „verantwortungsvoller AIoder „ausgerichteter AIspricht, als sei dies eine Selbstverständlichkeit. AI Vertrauen lässt sich AI entwickeln, daher wird dies zwangsläufig einen Unterschied auf dem Markt ausmachen. Wenn Sie nicht von Anfang an einen Compliance-Prozess integriert haben, werden Sie sicherlich in der gesamten Wertschöpfungskette den Anschluss verlieren. 

Naaia hilft Unternehmen dabei, sich auf ihr Kerngeschäft, auf Innovation und auf ihre Teams zu konzentrieren. Unser Tool liefert die Schlüssel, um Compliance so schnell und effektiv wie möglich zu erreichen. Es umfasst einen Qualifizierungsalgorithmus, der ein unternehmensinternes Repository erstellt, um alle artificial intelligence zu identifizieren und zu qualifizieren, und anschließend einen Aktionsplan generiert. Dieser Aktionsplan wird im Rahmen jedes einzelnen KI-Systems erstellt, bündelt jedoch auch die Bemühungen über alle Vorschriften hinweg, um Unternehmen dabei zu helfen, Compliance schnell und effektiv zu erreichen. Dazu erhalten sie Listen mit konkreten Maßnahmen, Vorlagen für die Dokumentation sowie Schulungsinstrumente, damit die Teams loslegen können. Wir erreichen dies, indem wir Einschränkungen und Kosten minimieren, den Einsatz von Experten vermeiden, die nicht nah genug an den Teams und Produkten sind, und versuchen, diese Funktion zu internalisieren, um sie zu verinnerlichen und zu verarbeiten. Das richtige Wort für Compliance ist „verinnerlichen“, damit wir, wenn wir das Produkt auf den Markt bringen, so unbeschwert und ungehindert wie möglich sind.

Heute sind es vor allem Early Adopters und Massive Adopters von AI sowie C40-Gruppen, die über eine große Bandbreite verfügen und AI umfangreiche AI einsetzen. Hinzu kommen spezialisiertere Akteure, deren Kerngeschäft AI ist und die absolut verpflichtet sind, Compliance-Maßnahmen sofort umzusetzen, da es für sie um alles oder nichts geht: Ohne Compliance können sie nicht auf den Markt gehen. Später werden wir nach und nach auch kleinere Unternehmen einbeziehen. Diese verfügen über weniger Ressourcen, um Compliance-Themen zu bewältigen, werden aber in Zukunft weniger Optionen haben. Genauso wie es ein CRM zur Verwaltung von Kundenbeziehungen, ein ERP zur Verwaltung der Produktion und ein HRIS zur Verwaltung des Personalwesens gibt, glauben wir, dass wir ein Tool benötigen, um AI zu verwaltenund allen dabei zu helfen, AI richtig einzusetzen AI Verantwortlichkeiten zu verwalten. In dieser Hinsicht ist Naaia ein AIMS, ein Artificial Intelligence System, das zur Selbstverständlichkeit werden wird – das ist unsere Vision für morgen.