Stephan Hadinger, CTO bij Amazon Web Services op de Adopt AI Top - Veiligheid voorop: Gen AI onder hoge bescherming

Hadinger besprak de uitgebreide ervaring van AWS met AI, de specifieke uitdagingen van generatieve AI en de maatregelen die AWS heeft geïmplementeerd om de veiligheid en het ethisch gebruik van AI te waarborgen.

Hij benadrukte dat Amazon al meer dan 20 jaar gebruik maakt van AI, met wereldwijd meer dan 100.000 klanten die AWS AI-diensten gebruiken. Dit uitgebreide gebruik heeft AWS waardevolle inzichten opgeleverd en de mogelijkheid om zijn AI-aanbod voortdurend te verbeteren. Hij benadrukte de probabilistische aard van generatieve AI, die verschillende outputs kan produceren op basis van dezelfde input, wat unieke uitdagingen met zich meebrengt voor het garanderen van de nauwkeurigheid van het model en de veiligheid.

Hij legde uit dat het probabilistische gedrag van generatieve AI kan leiden tot hallucinaties, wat met name problematisch is op gebieden zoals HR en juridisch. AWS pakt dit aan door een reeks AI-modellen aan te bieden, zodat klanten het model kunnen kiezen dat het beste bij hun specifieke gebruik past.

Hij verzekerde klanten dat hun data privé en versleuteld blijft, waarbij AWS geavanceerde beveiligingsmaatregelen toepast om onbevoegde toegang te voorkomen. Dit systeem verbetert niet alleen de beveiliging, maar beschermt klanten ook tegen extraterritoriale wetten door ervoor te zorgen dat AWS geen zinvolle data aan externe partijen kan verstrekken zonder toestemming van de klant.

Eén benadering om hallucinaties te beperken is Retrieval-Augmented Generation (RAG), dat generatieve AI combineert met echte data om betrouwbare resultaten te produceren. Door AI-reacties in specifieke documenten te verankeren, vermindert RAG het risico op hallucinaties en zorgt het voor nauwkeurigere en controleerbare resultaten.

Om te voorkomen dat AI-modellen giftige of aanstootgevende inhoud produceren, heeft AWS beveiligingen geïmplementeerd in zowel de invoer- als de uitvoerfase. Deze beveiligingen zorgen ervoor dat AI-modellen geen ongepaste of schadelijke reacties genereren. Hadinger gaf voorbeelden van hoe deze maatregelen werken, zoals het filteren van vragen die zouden kunnen leiden tot onethische of aanstootgevende antwoorden, terwijl contextueel geschikte vragen in specifieke bedrijfsscenario's worden toegestaan.

De modellen van AWS zijn ontworpen om dergelijke inbreuken te voorkomen, en het bedrijf biedt klanten schadeloosstelling in gevallen waar IP-problemen optreden. Deze toewijding om klanten te beschermen onderstreept de focus van AWS op het leveren van betrouwbare AI-diensten.

“Uw data is privé. Het wordt elke keer versleuteld en we gebruiken het nooit. We hebben een systeem gebouwd dat voorkomt dat een AWS-medewerker toegang heeft tot uw data of verbinding kan maken met de server. Deze technische onmogelijkheid garandeert de veiligheid van uw data en beschermt tegen extraterritoriale wetten.”

Stephan Hadinger, CTO bij Amazon Web Services (AWS)

Hadinger deelde een overtuigend voorbeeld van het gebruik van generatieve AI voor beveiliging via Amazon One, een verificatieservice die gebruikers herkent aan de palm van hun hand. Om een hoge nauwkeurigheid te bereiken, gebruikte AWS generatieve AI om meer dan drie miljoen kunstmatige handafbeeldingen te maken, die vervolgens werden gebruikt om het beveiligingsmodel te trainen. Deze innovatieve aanpak benadrukt de complementaire rol van generatieve AI en traditionele AI bij het verbeteren van beveiligingssystemen.