Stephan Hadinger, CTO da Amazon Web Services no Adopt AI Summit - Segurança em primeiro lugar: IA de geração sob alta proteção

Hadinger discutiu a ampla experiência da AWS com IA, os desafios específicos apresentados pela IA generativa e as medidas que a AWS implementou para garantir a segurança e o uso ético da IA.

Ele destacou que a Amazon vem aproveitando a IA há mais de 20 anos, com mais de 100.000 clientes usando os serviços de IA da AWS em todo o mundo. Esse uso extensivo proporcionou à AWS insights valiosos e a capacidade de melhorar continuamente suas ofertas de IA. Ele ressaltou a natureza probabilística da IA generativa, que pode produzir resultados diferentes a partir das mesmas entradas, o que representa desafios únicos para garantir a precisão e a segurança do modelo.

Ele explicou que o comportamento probabilístico da IA generativa pode levar a alucinações, o que é particularmente problemático em áreas como RH e jurídica. A AWS resolve isso fornecendo uma variedade de modelos de IA, garantindo que os clientes possam escolher o que melhor se adapta ao seu caso de uso específico.

Ele garantiu aos clientes que seu data permanece privado e criptografado, com a AWS empregando medidas de segurança avançadas para impedir o acesso não autorizado. Esse sistema não apenas aumenta a segurança, mas também protege os clientes de leis extraterritoriais, garantindo que a AWS não possa fornecer data significativo a terceiros sem o consentimento do cliente.

Uma abordagem para atenuar as alucinações é a Retrieval-Augmented Generation (RAG), que combina a IA generativa com o data real para produzir resultados confiáveis. Ao fundamentar as respostas da IA em documentos específicos, a RAG reduz o risco de alucinação e garante resultados mais precisos e verificáveis.

Para evitar que os modelos de IA produzam conteúdo tóxico ou ofensivo, a AWS implementou salvaguardas nos estágios de entrada e saída. Essas proteções garantem que os modelos de IA não gerem respostas inadequadas ou prejudiciais. Hadinger forneceu exemplos de como essas medidas funcionam, como filtrar perguntas que podem levar a respostas antiéticas ou ofensivas e, ao mesmo tempo, permitir perguntas contextualmente apropriadas em cenários de negócios específicos.

Os modelos da AWS são projetados para evitar tais violações, e a empresa oferece indenização aos clientes nos casos em que surgem problemas de IP. Esse compromisso de proteger os clientes ressalta o foco da AWS em fornecer serviços de IA confiáveis e seguros.

“Seu data é privado. Ele é criptografado todas as vezes e nunca o usamos. Criamos um sistema que impede que qualquer funcionário da AWS acesse seu data ou se conecte ao servidor. Essa impossibilidade técnica garante a segurança do seu data e o protege contra leis extraterritoriais.”

Stephan Hadinger, CTO da Amazon Web Services (AWS)

Hadinger compartilhou um exemplo convincente do uso de IA generativa para segurança por meio do Amazon One, um serviço de autenticação que reconhece os usuários pela palma da mão. Para obter alta precisão, a AWS usou a IA generativa para criar mais de três milhões de imagens artificiais de mãos, que foram usadas para treinar o modelo de segurança. Essa abordagem inovadora destaca as funções complementares da IA generativa e da IA tradicional no aprimoramento dos sistemas de segurança.