Auteur

Image

Robbert Bregman

Data Raadgevend directeur bij Artefact NL

Auteur

Image

Nawras Akroush

Data Strategieconsultant bij Artefact NL

Nu de interesse in en integratie van AI-oplossingen toeneemt, is het dringend noodzakelijk dat bedrijven initiatieven nemen die zorgen voor een goed bestuur van AI-ontwerp en -gebruik.

Inadequate governance van AI brengt organisaties het risico met zich mee dat ze niet voldoen aan wettelijke vereisten, dat hun besluitvormingsproces in gevaar komt en dat ze niet voldoen aan de verwachtingen van klanten.

Een gebrek aan inzicht in de wetgeving met betrekking tot AI kan bijvoorbeeld leiden tot onopzettelijke overtredingen die kunnen leiden tot aanzienlijke boetes voor bedrijven. Bovendien gaat slecht beheerde data ten koste van de data kwaliteit, wat een negatieve invloed heeft op de output van AI-modellen en dus op de besluitvorming en operationele efficiëntie, die uiteindelijk financiële verliezen veroorzaken.

Tot slot kan het gebruik van AI in situaties zonder sterke ethische overwegingen de geloofwaardigheid van een bedrijf schaden en een vertrouwenskloof met klanten creëren, zoals het gebruik van algoritmen die onbedoeld discrimineren op basis van demografische data. Bedrijven moeten deze governance-uitdagingen aangaan om een verantwoord en ethisch gebruik van AI te garanderen, en zo hun activiteiten veilig te stellen en het vertrouwen van belanghebbenden te behouden.

“De AI-wet schetst regels voor data kwaliteit, transparantie, menselijk toezicht en AI-verantwoordelijkheid. Bij Artefact adviseren we klanten om zeven imperatieven te volgen om compatibele AI-oplossingen te ontwerpen.”
Nawras Akroush, Data Adviseur Strategie bij Artefact NL

Opkomende AI-wetgeving: Het gebruik en de toepassing van AI voor bedrijven reguleren

Een van de meest uitdagende aspecten van AI-governance is het vermogen van bedrijven om te voldoen aan de regelgeving voor het gebruik en de implementatie ervan. De meest opvallende van deze voorschriften is de EU AI-wet voorgesteld door de Europese Commissie in 2021. Deze wet heeft als doel om duidelijke vereisten en verplichtingen voor AI-ontwikkelaars, -implementeerders en -gebruikers terwijl de administratieve en financiële lasten worden verlicht, vooral voor kleine en middelgrote ondernemingen (KMO's). Hoewel er nog gewacht wordt op de formele goedkeuring door de EU-wetgevers, is er al een voorlopig akkoord bereikt, wat een voorbode is van de verwachte goedkeuring als wet. Deskundigen verwachten dat het medio 2024 volledig zal zijn aangenomen en dat de tenuitvoerlegging begin 2026 zal plaatsvinden.

De AI-wet stelt regels op voor data kwaliteit, transparantie, menselijk toezicht en verantwoordingsplicht van AI-systemen. De wet stelt ook een kader vast voor het classificeren van het risico van AI-systemen op basis van hun potentiële impact op gezondheid, veiligheid en fundamentele mensenrechten. De wet definieert vier risicocategorieën voor AI-oplossingen:

  • Onaanvaardbaar risico: Dit heeft betrekking op AI-oplossingen die een duidelijke bedreiging vormen voor de veiligheid, het levensonderhoud en de rechten van mensen, wat resulteert in een volledig verbod op het gebruik ervan.

  • Hoog risico: Deze categorie omvat AI-oplossingen met een hoog risico die worden ingezet op kritieke gebieden zoals infrastructuur, onderwijs of opleiding, grenscontrolebeheer, enz. Deze oplossingen zijn onderworpen aan strenge verplichtingen voordat ze worden ingezet.

  • Beperkt risico: Deze categorie omvat AI-systemen die specifieke transparantieverplichtingen hebben, maar geen hoog risico vormen voor hun gebruikers. Bij interactie met AI-systemen zoals chatbots moeten gebruikers zich er bijvoorbeeld van bewust zijn dat ze met een machine in zee gaan, zodat ze met kennis van zaken kunnen beslissen of ze doorgaan of stoppen. Deze zullen worden toegestaan als de wet wordt nageleefd.

  • Minimaal risico: Dit verwijst naar AI-systemen met verwaarloosbare risico's, zoals videospellen met AI, die vrij gebruikt mogen worden.

Artefact's vereisten: Kenmerken van een geschikte AI-oplossing

Op basis van de vereisten van de EU-AI Act en onze ervaring met data en AI-governance en -naleving, adviseren wij onze cliënten om het volgende te overwegen zeven niet-onderhandelbare vereisten bij het ontwerpen of inzetten van AI-oplossingen:

Om effectief AI-oplossingen te ontwikkelen en te implementeren in lijn met deze ontwerpeisen en te zorgen voor een goede AI-governance om juridische, prestatie- en reputatierisico's te vermijden, zullen veel bedrijven aanzienlijke organisatorische veranderingen moeten doorvoeren. Deze omvatten:

  • Maak kennis met rollen en verantwoordelijkheden voor AI-governance;

  • Een geschikte AI-governance definiëren bedieningsmodel binnen de organisatiestructuur;

  • Noodzakelijke schets beleid en procedures voor de implementatie van AI-governance;

  • De gereedschap en technologieën die nodig zijn om AI-governance te ondersteunen;

  • Vaststellen van geschikte controleprotocollen voor naleving van het AI-systeem.

Het implementeren van veranderingen in al deze organisatorische pijlers kan een moeilijk en tijdrovend proces zijn, dus Artefact moedigt bedrijven aan om te beginnen met het ontwikkelen en integreren van AI-governance frameworks. Dit zorgt voor naleving van toekomstige voorschriften en helpt te voldoen aan de verwachtingen van de klant.

Dringende noodzaak: Het belang van proactieve invoering van compatibele AI-oplossingen

In de dynamische wereld van AI-technologie moeten bedrijfsleiders een proactieve houding aannemen om hun organisaties te positioneren als leiders in verantwoorde invoering van AI. Dit zal hen in staat stellen om innovatie te stimuleren en tegelijkertijd ethische verplichtingen en naleving van de regelgeving te handhaven. In dit tijdperk van snelle technologische ontwikkeling en veranderende regelgeving zal een strategische en toegewijde benadering van AI-governance een sleutelelement zijn voor duurzaam succes.

Wilt u meer weten over het omgaan met deze kwestie? Blijf luisteren naar deel twee van deze serie, waarin we dieper ingaan op een raamwerk dat bedrijven kunnen gebruiken om een goede AI-governance binnen hun organisatie op te zetten.