AIR LIQUIDE, RENAULT GROUP & SAFRAN auf der AI for Industry by Artefact - Aufbau und Einsatz von vertrauenswürdiger KI

Fabien Mangeant erklärte, dass das Vertrauen in KI-Systeme entscheidend ist, insbesondere in sicherheitskritischen Umgebungen wie der Gasproduktion. Air Liquide setzt KI in verschiedenen Anwendungen ein, von der Betriebskontrolle bis zur Planung. Das Unternehmen wendet den risikobasierten Ansatz des AI Act an, um KI-Systeme auf der Grundlage ihrer Kritikalität zu kategorisieren. Dieser Rahmen hilft dabei, die Sicherheit und Zuverlässigkeit von KI-Systemen zu verwalten, die für Kunden und Mitarbeiter eingesetzt werden. Air Liquide hat bereits vor der Einführung formeller Vorschriften an der Vertrauenswürdigkeit von KI gearbeitet, und die neuen Gesetze tragen zur Klärung und Formalisierung ihrer Praktiken bei.

Rodolphe Gelin erörterte, wie KI sowohl die Sicherheitsmerkmale von Fahrzeugen als auch die Produktionsprozesse optimiert. KI-gesteuerte Systeme, wie die autonome Notbremsung, wurden bereits vor dem KI-Gesetz eingeführt. Bei der Überprüfung stellte Renault fest, dass seine Prozesse bereits viele gesetzliche Anforderungen erfüllten. Renault nutzt nun das KI-Gesetz, um die Sicherheit seiner KI-Systeme weiter zu validieren und sicherzustellen, dass die KI zuverlässig funktioniert, wenn sie die Kontrolle über ein Fahrzeug übernimmt. Das Vertrauen in KI ist sowohl für die Nutzer als auch für die Ingenieure von entscheidender Bedeutung, zumal KI eine immer größere Rolle bei der Fahrzeugsicherheit spielt.

Daniel Duclos von Safran wies auf die langen Entwicklungszyklen in der Luftfahrtindustrie hin, die sich bei Triebwerken und Materialien über Jahrzehnte erstrecken können. Safran beteiligt sich an großen europäischen Programmen wie der Aviation Initiative, um KI in die Luftfahrt zu integrieren. Diese Programme erleichtern die Zusammenarbeit mit Startups und Technologieanbietern. Safran hat eine starke Regulierungskultur und arbeitet eng mit der Europäischen Agentur für Flugsicherheit zusammen, um die bestehenden Sicherheitsstandards an die KI anzupassen. Das Ziel von Safran ist es, sicherzustellen, dass KI-Systeme sowohl bei der Produktentwicklung als auch bei betrieblichen Prozessen sicher sind.

Fabian Mangeant erklärte, wie Air Liquide eine übergreifende Methodik entwickelt hat, um Transparenz, Robustheit und Erklärbarkeit in der KI zu gewährleisten. Das Unternehmen hat KI-spezifische Tools in seine Pipeline für maschinelles Lernen (MLOps) integriert, um die Zuverlässigkeit von KI-Modellen vor dem Einsatz zu bewerten und zu testen. Die KI-Governance ist Teil einer umfassenderen Strategie zur Skalierung vertrauenswürdiger KI im gesamten Unternehmen, die die Einhaltung von Vorschriften gewährleistet und die internen Prozesse für die KI-Entwicklung verbessert.

Safran sprach darüber, wie wichtig es ist, gute Praktiken für die KI-Entwicklung zu fördern. Sie stellen sicher, dass die Ingenieure bewährte Verfahren für die KI-Architektur, das database-Management und die Modellschulung anwenden, um bessere KI-Systeme zu entwickeln. Diese Praktiken tragen dazu bei, dass die KI-Produkte die Leistungsstandards erfüllen und zuverlässig sind. Safran bezieht KI-bezogene Themen auch in technische Audits ein, um sicherzustellen, dass KI-Systeme während der Entwicklung gründlich bewertet werden.

Rodolphe Gelin erklärte, wie das Unternehmen die KI-Technik in seine Entwicklungsprozesse integriert hat. Das zentrale Kompetenzzentrum von Renault für KI entwickelt industrielle Anwendungen mit KI-Komponenten. Das Team nutzt Tools wie die von Confiance.ai, um die Robustheit und Genauigkeit von KI-Systemen zu validieren. Renault möchte den Bedarf an realen Tests verringern, indem es Tools einsetzt, um die Qualität von data zu bewerten, Verzerrungen zu beseitigen und KI-Modelle effizienter zu validieren. Dieser Ansatz ermöglicht es Renault, KI-Systeme schneller und zu geringeren Kosten zu entwickeln und gleichzeitig die Sicherheitsstandards einzuhalten.