Stephan Hadinger, CTO chez Amazon Web Services au sommet Adopt AI - La sécurité d'abord : Gen AI sous haute protection

M. Hadinger a évoqué la vaste expérience d'AWS en matière d'IA, les défis spécifiques posés par l'IA générative et les mesures mises en œuvre par AWS pour garantir la sécurité et l'utilisation éthique de l'IA.

Il a souligné qu'Amazon exploite l'IA depuis plus de 20 ans, avec plus de 100 000 clients utilisant les services d'IA d'AWS dans le monde entier. Cette utilisation intensive a permis à AWS d'acquérir des connaissances précieuses et d'améliorer continuellement ses offres en matière d'IA. Il a souligné la nature probabiliste de l'IA générative, qui peut produire différents résultats à partir des mêmes entrées, ce qui pose des défis uniques pour garantir la précision et la sécurité des modèles.

Il a expliqué que le comportement probabiliste de l'IA générative peut conduire à des hallucinations, ce qui est particulièrement problématique dans des domaines tels que les ressources humaines et le droit. AWS résout ce problème en proposant une gamme de modèles d'IA, ce qui permet aux clients de choisir celui qui correspond le mieux à leur cas d'utilisation spécifique.

Il a assuré les clients que leur data reste privé et crypté, AWS employant des mesures de sécurité avancées pour empêcher tout accès non autorisé. Ce système permet non seulement d'améliorer la sécurité, mais aussi de protéger les clients des lois extraterritoriales en garantissant qu'AWS ne peut pas fournir de data significatif à des parties externes sans le consentement du client.

L'une des approches permettant d'atténuer les hallucinations est la génération assistée par récupération (RAG), qui associe l'IA générative à la data réelle pour produire des résultats fiables. En ancrant les réponses de l'IA dans des documents spécifiques, la RAG réduit le risque d'hallucination et garantit des résultats plus précis et vérifiables.

Pour empêcher les modèles d'IA de produire du contenu toxique ou offensant, AWS a mis en place des mesures de protection aux stades de l'entrée et de la sortie. Ces mesures garantissent que les modèles d'IA ne génèrent pas de réponses inappropriées ou nuisibles. M. Hadinger a donné des exemples du fonctionnement de ces mesures, comme le filtrage des questions susceptibles de donner lieu à des réponses contraires à l'éthique ou offensantes, tout en autorisant des demandes adaptées au contexte dans des scénarios commerciaux spécifiques.

Les modèles d'AWS sont conçus pour éviter de telles violations, et l'entreprise offre une indemnisation à ses clients dans les cas où des problèmes de propriété intellectuelle se posent. Cet engagement à protéger les clients souligne la volonté d'AWS de fournir des services d'IA fiables et dignes de confiance.

“Votre data est privé. Il est crypté à chaque fois et nous ne l'utilisons jamais. Nous avons mis en place un système qui empêche tout employé d'AWS d'accéder à votre data ou de se connecter au serveur. Cette impossibilité technique garantit la sécurité de votre data et vous protège contre les lois extraterritoriales.”

Stephan Hadinger, directeur de la technologie chez Amazon Web Services (AWS)

M. Hadinger a présenté un exemple convaincant d'utilisation de l'IA générative pour la sécurité par le biais d'Amazon One, un service d'authentification qui reconnaît les utilisateurs à la paume de leur main. Pour obtenir une grande précision, AWS a utilisé l'IA générative pour créer plus de trois millions d'images de mains artificielles, qui ont ensuite été utilisées pour former le modèle de sécurité. Cette approche innovante met en évidence les rôles complémentaires de l'IA générative et de l'IA traditionnelle dans l'amélioration des systèmes de sécurité.