De AI : het belang van naleving van de regelgeving – en wat er op het spel staat voor bedrijven van elke soort en omvang

Bekijk de video over Data 

Luister naar de podcast 

Nathalie Beslay is de CEO en medeoprichtster van Naaia, een leverancier van oplossingen voor compliance en risicobeheer voor de artificial intelligence . Nathalie is sinds 2004 advocaat en richt zich in haar praktijk op de gezondheids- en schoonheidsindustrie. Ze is bij uitstek gekwalificeerd om regelgevingskwesties te bespreken, aangezien ze leiding heeft gegeven aan een project voor het Seville Institute for Prospective Technological Studies over de uitdagingen en risico's van de introductie van nieuwe technologieën in de gezondheidssector. Ze is ook technisch adviseur geweest voor de Franse staatssecretaris van Volksgezondheid op het gebied van bio-ethische kwesties en General Counsel voor een aanbieder van e-health-oplossingen.

Of het nu gaat om de gezondheidszorg of om AI, mensen hebben vaak moeite met wettelijke beperkingen. De sleutel is om die beperkingen om te zetten in kansen. Door inzicht te krijgen in het regelgevingskader voor gezondheidsproducten, begreep ik beter wat er op het spel staat en welke risico’s het nieuwe AI met zich meebrengt, omdat dit op precies dezelfde manier is opgezet als dat voor gezondheidsproducten: de onderliggende doelstellingen zijn in wezen de veiligheid van gebruikers en degenen die van het product profiteren.

De AI is bedoeld als een horizontale productregelgeving. Dat betekent dat deze van toepassing is op elk type organisatie, ongeacht de omvang, en of deze nu particulier of publiek is. Er zijn uitzonderingen voor bepaalde sectoren, zoals het leger, maar het is een productregelgeving die qua concept en soort verplichtingen vergelijkbaar is met andere productregelgevingen. 

Achter de 400 pagina’s aan complexe bepalingen is de AI in wezen een systeem voor risicobeheer, een kwaliteitsborgingssysteem, documentatie, technische documentatie en gebruiksaanwijzingen. Er is veel gesproken over de regelgevingsdrempel – het punt waarop regelgeving zo restrictief wordt dat ze een last vormt in plaats van bij te dragen aan gewenste doelstellingen. Maar uit onderzoek blijkt dat als bedrijven sterk gedigitaliseerd zijn, regelgeving hen juist helpt zich te ontwikkelen.

Om dat te realiseren, moeten bedrijven de AI omarmen, zich deze eigen maken en de verplichtingen ervan vanaf het begin in hun processen integreren. De beste manier is om te zeggen: “Ik ga voor op waarden gebaseerde compliance, ik ga kijken wat compliance voor mijn product kan betekenen, en daarmee voor mijn klanten.”

Aangezien de AI een productverordening is, zal deze verschillende verplichtingen opleggen aan de artificial intelligence , afhankelijk van of je een leverancier, distributeur of gebruiker bent. Verschillende fasen zullen naast elkaar bestaan, afhankelijk van of u zelf produceert of kant-en-klare producten koopt, of dat u een model gebruikt en dit vervolgens omzet in een AI . Leveranciers zullen conformiteit moeten aantonen en technische documentatie moeten verstrekken; spelers die producten aanpassen, zullen moeten aantonen dat ze de door leveranciers verstrekte informatie respecteren, maar ook dat elke toegevoegde laag conform, onbevooroordeeld, het auteursrecht respecteert, kwalitatief is en representatieve data gebruikt.

De oorspronkelijke tekst van de AI is veranderd, mede dankzij de stemmen van degenen die zich luidkeels tegen regulering hebben uitgesproken. Tegenwoordig geldt er tijdens de R&D-fase een opschorting van de regelgeving, en zijn open-source-modellen vrijgesteld, tenzij ze een zogenaamd systeemrisico vormen, dat wil zeggen wanneer het risiconiveau te hoog is om voor de vrijstelling in aanmerking te komen. Tegen de twijfelaars wil ik zeggen dat Europese AI er rekening wordt gehouden met deze kwesties en dat deze regels worden geïntegreerd in hun marketingprocessen. Bovenal wil ik hen zeggen dat wanneer je over zoveel capaciteit, macht, intelligentie en visie beschikt als onze Franse en Europese spelers, het opzetten en integreren van compliance helemaal niet ingewikkeld is.

Het is belangrijk om te onthouden dat ook AI Amerikaanse en Chinese AI nog in ontwikkeling is en dat iedereen hetzelfde doel heeft: het menselijke element bij het gebruik van deze nieuwe technologieën te behouden en opnieuw centraal te stellen – of dat in ieder geval zo goed mogelijk te proberen.

Het beste is om de tijdlijn nog eens door te nemen. De AI wordt op 22 april officieel in stemming gebracht in het Europees Parlement. In mei wordt de wet gepubliceerd in het Publicatieblad, waarna het tijdschema ingaat. Over zes maanden AI verboden AI van platforms worden verwijderd of in overeenstemming worden gebracht met de wet. Na één jaar zullen uitgevers van artificial intelligence voor algemeen gebruik aan de regelgeving moeten voldoen. Na twee jaar zullen alle andere AI aan alle verplichtingen moeten voldoen, met iets langere termijnen voor AI's waarvan de naleving complexer is. Met andere woorden: telkens wanneer een AI een product of apparatuur dat zelf onderworpen is aan regelgeving – bijvoorbeeld medische hulpmiddelen, gastransport of bepaalde werktuigmachines – staat de wetgever 36 maanden toe om aan de voorschriften te voldoen, omdat deze regelgeving moet worden verzameld en geordend.

Dus, de eerste prioriteit is het in kaart brengen, identificeren en screenen op verboden AI's, om ze te verwijderen of in overeenstemming te brengen. Het doel is om naleving te bereiken door middel van waarde, door ons af te vragen waar naleving voor dient, en door kwaliteitsproducten te maken die veilig, begrijpelijk en verklaarbaar zijn, een doel dienen en zo min mogelijk energie verbruiken.

De AI hanteert een risicogebaseerde aanpak. Bepaalde AI werden beschouwd als een „onaanvaardbaar“ risico, waardoor de wetgever deze als verboden heeft aangemerkt. Het gaat om acht systemen, waaronder artificial intelligence die subliminale manipulatie mogelijk maken. De lijst omvat ook algemene sociale beoordelingssystemen, d.w.z. het kwalificeren en categoriseren van individuen op basis van economisch niveau of sociale positie, maar dan op grote schaal. Systemen voor emotionele herkenning op basis van biometrie zijn ook verboden op de werkplek en in onderwijsomgevingen, behalve om veiligheidsredenen. In productiefaciliteiten kan het bijvoorbeeld nodig zijn om de emotionele toestand van mensen te meten om hun veiligheid op de productielijn te waarborgen of om de beveiliging tegen mogelijke indringers te garanderen. Een ander verboden AIS zijn gezichtsherkenningssystemen die worden gebruikt om criminaliteit te bestrijden. Dit soort videobewaking is voorbehouden aan bepaalde autoriteiten en voor bepaalde strafbare feiten. Wanneer het is toegestaan voor particuliere organisaties, is dat voor bepaalde strafbare feiten die als zeer ernstig worden beschouwd, zoals terrorisme, misdaad, mishandeling en verkrachting, en het is zo specifiek als dat in de AI .

In dat geval zouden mensen het inderdaad niet meer mogen gebruiken, en zou OpenAI een forse boete riskeren. Maar ik geloof niet in dit scenario. Ik denk dat spelers zich aan de regelgeving zullen houden. Het zal niet makkelijk zijn – het gaat veel kosten en veel planning vergen. Naleving betekent een budget vaststellen om aan de eisen te voldoen, op de hoogte raken, experts mobiliseren, teams trainen en naleving opnemen in de roadmap organisatie. Het is niet makkelijk, maar het is haalbaar, en gezien wat er op het spel staat, moet het gebeuren.

Wanneer we de regels toepassen, kijken we naar de mate waarin de regel het product ten goede kan komen. Als je bijvoorbeeld een verplichting hebt tot traceerbaarheid en verklaarbaarheid in de hele keten, en je maakt gebruik van onderaannemers, dan kan het benaderen van deze onderaannemers met het oog op kwaliteit leiden tot kostenbesparingen of het invoeren van normen, en dat komt het product uiteraard ten goede. Dus hoe zetten we deze beperking om in een kans? We kijken in hoeverre de regel de vereiste respons op het gebied van kwaliteit en veiligheid zal opleveren.

Bepaalde sectoren hebben dit begrepen, zoals de voedingssector. De Nutri-Score is een regel die producten helpt die zich aan de regels houden. Het versterkt het vertrouwen van de consument. Natuurlijk vormde de Nutri-Score een beperking in de waardeketen, maar wie kan daar vandaag de dag nog over klagen? Iedereen is het eens met dit soort regels. De luchtvaart is een andere sector die beseft dat naleving en regels goed zijn voor hun producten. In sectoren waar veiligheid cruciaal is, hebben ze beperkingen omgezet in een troef van vertrouwen, een kans om loyaliteit, begrip en een band met hun klanten op te bouwen. Hetzelfde geldt voor artificial intelligence: het is goed dat deze regelgeving er is… en misschien zelfs een kans om ons af te vragen of we een bepaalde AI wel echt nodig hebben, als de inspanning te groot is in verhouding tot het voordeel.

Generaal MacArthur zei ooit de beroemde woorden: „Verloren veldslagen kunnen in twee woorden worden samengevat: te laat.“ Het kan te laat zijn omdat de Europese wetgever een dwingend systeem met autoriteiten en sancties heeft opgezet. Afgezien van de angst voor juridische gevolgen, kan het ook te laat zijn in de keten van markttoegang. Wat AI betreft, zijn er tegenwoordig maar weinig spelers die niet spreken over "vertrouwen", "verantwoorde AIof "afgestemde AI, alsof dit vanzelfsprekend is. AI vertrouwen kun je geen AI maken, dus dit zal ongetwijfeld een verschil maken op de markt. Als je niet vanaf het begin een complianceproces hebt ingebouwd, loop je zeker de hele waardeketen mis. 

Naaia helpt bedrijven zich te concentreren op hun kernactiviteiten, op innovatie en op hun teams. Onze tool biedt de sleutels om zo snel en effectief mogelijk aan de regelgeving te voldoen. De tool bevat een kwalificatie-algoritme dat binnen de organisatie een database aanlegt organisatie alle artificial intelligence te identificeren en te kwalificeren, waarna een actieplan wordt gegenereerd. Dit actieplan wordt opgesteld binnen de perimeter van elk AIS, maar bundelt ook de inspanningen voor alle regelgeving om bedrijven te helpen snel en effectief aan de regelgeving te voldoen, door hen lijsten met concrete acties te geven, inclusief sjablonen voor documentatie en trainingstools waarmee teams aan de slag kunnen. We doen dit door beperkingen en kosten te beperken, door het inschakelen van experts die niet dicht genoeg bij de teams en de producten staan te beperken, en door deze functie te internaliseren om deze te verwerken en te metaboliseren. Het juiste woord voor compliance is 'metaboliseren', zodat we, wanneer we het product op de markt brengen, zo onbezorgd en onbelemmerd mogelijk zijn.

Op dit moment zijn het vooral early adopters en grote gebruikers van AI, C40-groepen die over een groot netwerk beschikken en AI veel AI hebben geïmplementeerd. En meer gespecialiseerde spelers voor wie AI de kernactiviteit is; zij zijn absoluut verplicht om onmiddellijk nalevingsmaatregelen te nemen, want het is een kwestie van leven of dood: als ze niet aan de regels voldoen, kunnen ze de markt niet betreden. Later zullen we geleidelijk ook kleinere bedrijven erbij betrekken. Zij hebben minder middelen om compliancekwesties aan te pakken, maar zullen in de toekomst minder opties hebben. Net zoals er een CRM is om klantrelaties te beheren, een ERP om de productie te beheren en een HRIS om HR te beheren, zijn wij van mening dat we een tool nodig hebben om AI te beherenen om iedereen te helpen op de juiste manier gebruik te maken van AI verantwoordelijkheden te beheren. In dit opzicht is Naaia een AIMS, een Artificial Intelligence System dat een commodity zal worden – dat is onze visie voor de toekomst.