Auteur
Auteur
Naarmate de interesse in en integratie van AI oplossingen toeneemt, is er een dringende behoefte aan initiatieven van bedrijven die zorgen voor een goede governance van AI ontwerp en gebruik.
Als AI onvoldoende wordt beheerd, lopen organisaties het risico dat ze niet voldoen aan de wettelijke vereisten, dat hun besluitvormingsproces in gevaar komt en dat ze niet voldoen aan de verwachtingen van de klant.
Een gebrek aan kennis van de wetgeving voor AI kan bijvoorbeeld leiden tot onbedoelde overtredingen die bedrijven aanzienlijke boetes kunnen opleveren. Bovendien gaat slecht beheerde data ten koste van de kwaliteit van data , wat een negatieve invloed heeft op de output van AI modellen en dus op de besluitvorming en operationele efficiëntie, wat uiteindelijk tot financiële verliezen leidt.
Tot slot kan het gebruik van AI in situaties zonder sterke ethische overwegingen de geloofwaardigheid van organisatieschaden en een vertrouwenskloof met klanten creëren, zoals het gebruik van algoritmen die onbedoeld discrimineren op basis van demografische data. Bedrijven moeten deze governance-uitdagingen aangaan om een verantwoord en ethisch gebruik van AI te waarborgen en zo hun activiteiten veilig te stellen en het vertrouwen van belanghebbenden te behouden.
"De AI Act bevat regels voor data kwaliteit, transparantie, menselijk toezicht en AI verantwoording. Op Artefact adviseren we klanten om zeven vereisten te volgen om conforme AI oplossingen te ontwerpen."Nawras Akroush, Data Strategieconsultant bij Artefact NL
Opkomende AI wetgeving: Regulering van het gebruik en de toepassing van AI voor bedrijven
Een van de meest uitdagende aspecten van AI governance is het vermogen van bedrijven om te voldoen aan de regelgeving voor het gebruik en de implementatie ervan. De meest opvallende van deze regels is de EU AI Act die in 2021 door de Europese Commissie is voorgesteld. Deze wet heeft als doel duidelijke eisen en verplichtingen vast te stellen voor AI ontwikkelaars, implementeerders en gebruikers en tegelijkertijd de administratieve en financiële lasten te verlichten, met name voor kleine en middelgrote ondernemingen (kmo's). Hoewel het wachten is op de formele goedkeuring door EU-wetgevers, is er een voorlopig akkoord bereikt, wat een voorbode is van de verwachte goedkeuring door de wetgever. Experts verwachten een volledige goedkeuring medio 2024, met handhaving gepland voor begin 2026.
De AI Act stelt regels vast voor data kwaliteit, transparantie, menselijk toezicht en verantwoordingsplicht van AI systemen. De wet stelt ook een kader vast voor het classificeren van het risico van AI systemen op basis van hun mogelijke impact op gezondheid, veiligheid en fundamentele mensenrechten. De wet definieert vier risicocategorieën voor AI oplossingen:
Artefacteisen: Kenmerken van een compliant AI oplossing
Op basis van de vereisten van de EU AI Act en onze ervaring met data en AI governance en compliance, adviseren wij onze klanten om bij het ontwerp of de implementatie van AI oplossingen rekening te houden met zeven onmisbare vereisten:
Om effectief AI oplossingen te ontwikkelen en te implementeren in lijn met deze ontwerpeisen en te zorgen voor de juiste AI governance om juridische, prestatie- en reputatierisico's te vermijden, zullen veel bedrijven aanzienlijke organisatorische veranderingen moeten doorvoeren. Deze omvatten:
Het implementeren van veranderingen in al deze organisatorische pijlers kan een moeilijk en tijdrovend proces zijn, dus Artefact moedigt bedrijven aan om te beginnen met het ontwikkelen en integreren van AI governance frameworks. Dit zorgt voor naleving van toekomstige regelgeving en helpt te voldoen aan de verwachtingen van klanten.
Dringende noodzaak: Het belang van proactieve invoering van compatibele AI oplossingen
In de dynamische wereld van AI technologie moeten bedrijfsleiders een proactieve houding aannemen om hun organisaties te positioneren als leiders in verantwoorde AI adoptie. Dit stelt hen in staat om innovatie te stimuleren en tegelijkertijd ethische verplichtingen en naleving van regelgeving te handhaven. In dit tijdperk van snelle technologische ontwikkelingen en veranderende regelgeving zal een strategische en toegewijde aanpak van AI governance een sleutelelement zijn voor duurzaam succes.
Wil je meer weten over het omgaan met deze kwestie? Blijf luisteren naar deel twee van deze serie, waarin we dieper ingaan op een raamwerk dat bedrijven kunnen gebruiken om een goede AI governance binnen hun organisatie op te zetten.
