De ethische overwegingen en het bestuur die vereist zijn voor verantwoorde adoptie van Al

AI heeft het potentieel om complexe problemen op te lossen, de productiviteit te verhogen en nieuwe kansen te creëren. Het kan echter ook bestaande ongelijkheden verergeren als het niet zorgvuldig wordt ontworpen. Een belangrijke ethische vereiste bij de toepassing van AI is het afstemmen van technologie op menselijke waarden. De kern van deze afstemming wordt gevormd door eerlijkheid, transparantie en verantwoordingsplicht, die als leidraad moeten dienen voor elk AI-initiatief.

Een belangrijke uitdaging is vooringenomenheid. AI-systemen leren van historische data, die maatschappelijke vooroordelen kunnen weerspiegelen, waardoor oneerlijke resultaten bestendigd worden. Bijvoorbeeld bij het aannemen van personeel of het goedkeuren van leningen kan een bevooroordeelde data training bepaalde demografische groepen benadelen, waardoor systemische ongelijkheden worden versterkt.

Een Fed-studie toonde aan dat zwarte en Latijns-Amerikaanse kredietnemers meer kans hadden om een lening geweigerd te krijgen en minder gunstige voorwaarden kregen, zelfs als er gecontroleerd werd voor kredietscores. Zelfs met vergelijkbare financiële profielen vertoonden algoritmische modellen verschillen tussen rassen, waarschijnlijk door indirecte vertekeningen in de data (zoals postcode of opleiding).

Het is de verantwoordelijkheid van ontwikkelaars en bedrijfsleiders om ervoor te zorgen dat AI-systemen vooroordelen niet bestendigen of verergeren. Voortdurende controle en herevaluatie zijn essentieel omdat maatschappelijke normen evolueren. Wat ooit als eerlijk werd beschouwd, is mogelijk niet langer acceptabel naarmate de eerlijkheid toeneemt en verandert.

AI kan ook de risico's die het genereert beperken en oplossen. Zest AI, een fintechbedrijf, past bijvoorbeeld rechtvaardigheidsbeperkingen toe in hun kredietmodellen om ongelijke gevolgen te verminderen. Hun modellen toonden een toename van 30-40% in goedkeuringspercentages voor beschermde groepen zonder dat het risico op wanbetaling toenam. Dit toonde aan dat eerlijk lenen en nauwkeurige risicovoorspelling naast elkaar kunnen bestaan met de juiste technieken.

Om AI te kunnen vertrouwen, moet het begrijpelijk zijn. De complexiteit van veel AI-modellen, vooral deep learning-systemen, kan ervoor zorgen dat ze aanvoelen als “zwarte dozen”, waarbij zelfs ontwikkelaars beslissingen niet volledig kunnen verklaren. Dit gebrek aan transparantie vermindert het vertrouwen en leidt tot bezorgdheid, met name in sectoren waar veel op het spel staat, zoals de gezondheidszorg, wetshandhaving en de financiële sector.

Transparantie in AI is meer dan het uitleggen van algoritmen; het gaat erom het besluitvormingsproces interpreteerbaar te maken voor mensen. Uitlegbare AI is één manier om ervoor te zorgen dat belanghebbenden de logica achter beslissingen kunnen volgen.

In de gezondheidszorg zouden AI-systemen bijvoorbeeld niet alleen een diagnose moeten stellen, maar ook moeten uitleggen welke symptomen tot die conclusie hebben geleid, zodat artsen en patiënten op AI-gestuurde beslissingen kunnen vertrouwen.

In een recente samenwerking heeft een team van experts een Lymfoom Data Hub ontwikkeld om onderzoekers te helpen AI te gebruiken voor snellere diagnose in een vroeg stadium en therapeutische innovatie. Door gebruik te maken van computervisie verkortte het project de diagnosetijd van dagen tot minuten. Wetenschappers van Data gebruikten heatmaps om de focus van het model te interpreteren, waardoor experts duidelijke inzichten kregen in het besluitvormingsproces.

Transparantie houdt ook in dat men openhartig moet zijn over de beperkingen van AI. Organisaties moeten duidelijk communiceren over wat AI wel en niet kan doen, zodat belanghebbenden de potentiële risico's en tekortkomingen begrijpen.

AI is afhankelijk van enorme hoeveelheden data, waarvan een groot deel persoonlijk of gevoelig is, wat ethische zorgen over privacy en beveiliging oproept. Naarmate AI zich verder ontwikkelt, moet ook onze toewijding aan het beschermen van de data van individuen toenemen.

Het beschermen van data gaat niet alleen over het volgen van privacyregels; het gaat over het respecteren van de autonomie van individuen over hun persoonlijke informatie. Data privacy moet vanaf het begin worden geïntegreerd in AI-systemen door middel van ’privacy by design,“ ervoor zorgend dat privacy een fundamenteel onderdeel is van het ontwikkelingsproces.

Naast privacy is AI-beveiliging van cruciaal belang. Nu AI in kritieke infrastructuren wordt geïntegreerd, kunnen de gevolgen van een data inbreuk of kwaadwillige aanval desastreus zijn. Organisaties moeten investeren in robuuste cyberbeveiligingsmaatregelen en noodplannen opstellen om de risico's te beperken.

Om privacy en beveiliging te garanderen in AI-gedreven direct-to-consumer marketing, moeten privacy-by-design en security-by-design de basis vormen. Dit betekent dat er al in een vroeg stadium robuuste tokenis- en anonimiseringsstrategieën moeten worden gedefinieerd en dat data gedurende de hele levenscyclus beschermd moet blijven.

De ethische implicaties van AI vragen om sterke bestuursstructuren. Governance gaat niet alleen over naleving; het gaat over het creëren van verantwoordingssystemen die de levenscyclus van AI begeleiden, van ontwikkeling tot implementatie.

Een cruciaal onderdeel van AI-governance is het opstellen van ethische richtlijnen en toezichtmechanismen, zoals speciale ethische commissies of comités die ervoor zorgen dat AI-projecten aan ethische normen voldoen. In deze commissies moeten verschillende stemmen vertegenwoordigd zijn, zoals ethici, juristen en vertegenwoordigers van de gemeenschap.

Verantwoording is ook belangrijk. Organisaties moeten de beslissingen van AI-systemen bijhouden en indien nodig ingrijpen. Als een AI-systeem schadelijke beslissingen neemt, moeten er duidelijke procedures zijn voor correctie en preventie.

AI-governance moet ook adaptief zijn. Naarmate AI zich ontwikkelt, moeten ook de kaders en het beleid die erop van toepassing zijn veranderen. Voortdurende controle en aanpassing zijn nodig om te kunnen reageren op nieuwe ethische uitdagingen en technologische vooruitgang.

In de MENA regio heb ik uit ervaring een toenemende trend in de private en publieke sector gezien om AI-ethiekcommissies en betrouwbare AI-initiatieven op te richten. AI-ethiekcommissies zijn een centrale referentie geworden voor alle processen met betrekking tot bestuur, beoordeling en besluitvorming voor beleid, praktijken, communicatie, onderzoek, producten en diensten met betrekking tot ethiek. Daarnaast heeft onderzoek uitgewezen dat het opzetten van netwerken van vrijwilligers helpt bij het bevorderen van een ethische, verantwoordelijke en betrouwbare cultuur.

De invoering van AI is geen eenmalige gebeurtenis, maar een voortdurende verantwoordelijkheid. Een ethisch verantwoorde inzet van AI vereist een voortdurende controle om ervoor te zorgen dat systemen in lijn blijven met ethische principes. Een belangrijke uitdaging is “drift”, waarbij modellen minder nauwkeurig of eerlijk worden naarmate ze nieuwe data tegenkomen of maatschappelijke normen veranderen.

Organisaties moeten AI-systemen regelmatig controleren en indien nodig bijscholen. Controle helpt bij het identificeren van vooroordelen, zorgt ervoor dat de data relevant is en evalueert de systeemprestaties.

Het monitoren van AI-systemen kan niet alleen de transparantie verbeteren, maar ook de prestaties. Uit ervaring blijkt dat de implementatie van AI-monitoring en verklaarbaarheidstoolkits met tientallen algoritmen en methoden voor het interpreteren van datasets de inspanningen voor modelmonitoring met 35-50% kan verminderen en de nauwkeurigheid van het model met 15-30% kan verhogen.

Een verantwoorde toepassing van AI is niet alleen juist, het is ook een concurrentievoordeel. Naarmate AI steeds algemener wordt, zullen belanghebbenden - zowel consumenten als regelgevers - ethische overwegingen als prioriteit stellen. Bedrijven die ethische AI-praktijken toepassen, zullen sterkere relaties met klanten opbouwen, beter talent aantrekken en kostbare juridische en reputatierisico's vermijden.

De toekomst van AI hangt af van ons vermogen om AI op verantwoorde wijze te besturen. Door menselijke waarden, transparantie, data privacy en robuust bestuur voorop te stellen, kunnen we het gebruik van AI optimaliseren en tegelijkertijd de risico's ervan beperken. Ethische AI is niet alleen een wettelijke vereiste of een morele verplichting; het is de basis voor vertrouwen en innovatie.