Stephan Hadinger, CTO de Amazon Web Services en la Cumbre Adopt AI - La seguridad ante todo: Gen AI bajo alta protección

Hadinger habló sobre la amplia experiencia de AWS con la IA, los desafíos específicos que plantea la IA generativa y las medidas que AWS ha implementado para garantizar la seguridad y el uso ético de la IA.

Destacó que Amazon lleva más de 20 años aprovechando la IA, con más de 100.000 clientes que utilizan los servicios de IA de AWS en todo el mundo. Este amplio uso ha proporcionado a AWS valiosos conocimientos y la capacidad de mejorar continuamente sus ofertas de IA. Subrayó la naturaleza probabilística de la IA generativa, que puede producir diferentes resultados a partir de las mismas entradas, lo que plantea retos únicos para garantizar la precisión y la seguridad de los modelos.

Explicó que el comportamiento probabilístico de la IA generativa puede dar lugar a alucinaciones, especialmente problemáticas en campos como el de los RRHH y el jurídico. AWS aborda esta cuestión proporcionando una gama de modelos de IA, garantizando que los clientes puedan elegir el que mejor se adapte a su caso de uso específico.

Aseguró a los clientes que su data sigue siendo privado y encriptado, y que AWS emplea medidas de seguridad avanzadas para impedir el acceso no autorizado. Este sistema no sólo mejora la seguridad, sino que también protege a los clientes de las leyes extraterritoriales al garantizar que AWS no puede proporcionar data significativos a partes externas sin el consentimiento del cliente.

Un enfoque para mitigar las alucinaciones es la Generación Mejorada por Recuperación (RAG), que combina la IA generativa con la data real para producir resultados fiables. Al basar las respuestas de la IA en documentos específicos, la RAG reduce el riesgo de alucinaciones y garantiza unos resultados más precisos y verificables.

Para evitar que los modelos de IA produzcan contenidos tóxicos u ofensivos, AWS ha implementado salvaguardas tanto en la fase de entrada como en la de salida. Estas salvaguardas garantizan que los modelos de IA no generen respuestas inapropiadas o dañinas. Hadinger ofreció ejemplos de cómo funcionan estas medidas, como el filtrado de preguntas que podrían dar lugar a respuestas poco éticas u ofensivas, al tiempo que se permiten consultas contextualmente apropiadas en escenarios empresariales específicos.

Los modelos de AWS están diseñados para evitar tales infracciones, y la compañía ofrece indemnizaciones a los clientes en los casos en que surjan problemas de propiedad intelectual. Este compromiso de proteger a los clientes subraya el interés de AWS por ofrecer servicios de IA fiables y dignos de confianza.

“Su data es privado. Siempre está encriptado y nunca lo utilizamos. Hemos construido un sistema que impide a cualquier empleado de AWS acceder a su data o conectarse al servidor. Esta imposibilidad técnica garantiza la seguridad de su data y le protege contra las leyes extraterritoriales.”

Stephan Hadinger, director técnico de Amazon Web Services (AWS)

Hadinger compartió un ejemplo convincente del uso de la IA generativa para la seguridad a través de Amazon One, un servicio de autenticación que reconoce a los usuarios por la palma de su mano. Para lograr una gran precisión, AWS utilizó la IA generativa para crear más de tres millones de imágenes de manos artificiales, que luego se utilizaron para entrenar el modelo de seguridad. Este enfoque innovador pone de relieve los papeles complementarios de la IA generativa y la IA tradicional en la mejora de los sistemas de seguridad.