Stephan Hadinger, CTO bei Amazon Web Services auf dem Adopt AI Summit - Sicherheit geht vor: Gen AI unter hohem Schutz

Hadinger sprach über die umfangreichen Erfahrungen von AWS mit KI, die besonderen Herausforderungen, die generative KI mit sich bringt, und die Maßnahmen, die AWS ergriffen hat, um die Sicherheit und ethische Nutzung von KI zu gewährleisten.

Er hob hervor, dass Amazon seit über 20 Jahren KI einsetzt und dass mehr als 100.000 Kunden weltweit die KI-Services von AWS nutzen. Diese umfassende Nutzung hat AWS wertvolle Einblicke verschafft und die Möglichkeit gegeben, seine KI-Angebote kontinuierlich zu verbessern. Er betonte die probabilistische Natur der generativen KI, die aus denselben Eingaben unterschiedliche Ergebnisse erzeugen kann, was die Gewährleistung der Modellgenauigkeit und Sicherheit vor einzigartige Herausforderungen stellt.

Er erklärte, dass das probabilistische Verhalten der generativen KI zu Halluzinationen führen kann, was besonders in Bereichen wie Personalwesen und Recht problematisch ist. AWS geht dieses Problem an, indem es eine Reihe von KI-Modellen anbietet, damit Kunden dasjenige auswählen können, das am besten zu ihrem spezifischen Anwendungsfall passt.

Er versicherte den Kunden, dass ihr data privat und verschlüsselt bleibt, wobei AWS fortschrittliche Sicherheitsmaßnahmen einsetzt, um unbefugten Zugriff zu verhindern. Dieses System erhöht nicht nur die Sicherheit, sondern schützt die Kunden auch vor extraterritorialen Gesetzen, indem es sicherstellt, dass AWS ohne Zustimmung des Kunden keine aussagekräftigen data an externe Parteien weitergeben kann.

Ein Ansatz zur Abschwächung von Halluzinationen ist die Retrieval-Augmented Generation (RAG), die generative KI mit tatsächlichen data kombiniert, um zuverlässige Ergebnisse zu erzielen. Durch die Verankerung der KI-Antworten in spezifischen Dokumenten verringert RAG das Risiko von Halluzinationen und sorgt für genauere und überprüfbare Ergebnisse.

Um zu verhindern, dass KI-Modelle giftige oder anstößige Inhalte produzieren, hat AWS sowohl in der Eingabe- als auch in der Ausgabestufe Sicherheitsvorkehrungen getroffen. Diese Schutzmaßnahmen stellen sicher, dass KI-Modelle keine unangemessenen oder schädlichen Antworten erzeugen. Hadinger erläuterte anhand von Beispielen, wie diese Maßnahmen funktionieren, z. B. das Herausfiltern von Fragen, die zu unethischen oder beleidigenden Antworten führen könnten, und das Zulassen von kontextuell angemessenen Anfragen in bestimmten Geschäftsszenarien.

Die Modelle von AWS sind so konzipiert, dass solche Verstöße vermieden werden, und das Unternehmen bietet seinen Kunden eine Entschädigung an, wenn es zu Problemen mit dem geistigen Eigentum kommt. Diese Verpflichtung zum Schutz der Kunden unterstreicht den Fokus von AWS auf die Bereitstellung vertrauenswürdiger und zuverlässiger KI-Dienste.

“Ihr data ist privat. Es wird jedes Mal verschlüsselt und wir verwenden es nie. Wir haben ein System entwickelt, das jeden AWS-Mitarbeiter daran hindert, auf Ihr data zuzugreifen oder sich mit dem Server zu verbinden. Diese technische Unmöglichkeit gewährleistet die Sicherheit Ihres data und schützt vor extraterritorialen Gesetzen.”

Stephan Hadinger, CTO bei Amazon Web Services (AWS)

Hadinger zeigte ein überzeugendes Beispiel für den Einsatz generativer KI für die Sicherheit bei Amazon One, einem Authentifizierungsdienst, der Benutzer anhand ihrer Handfläche erkennt. Um eine hohe Genauigkeit zu erreichen, setzte AWS generative KI ein, um über drei Millionen künstliche Handbilder zu erstellen, die dann zum Trainieren des Sicherheitsmodells verwendet wurden. Dieser innovative Ansatz unterstreicht die komplementäre Rolle von generativer KI und traditioneller KI bei der Verbesserung von Sicherheitssystemen.