De rol van categorieën in AI gisteren en vandaag
De komst van AI en machine learning heeft traditionele manieren om mensen en inhoud te categoriseren op de proef gesteld, wat heeft geleid tot nieuwe manieren van denken over problemen en mogelijk nieuwe problemen van vooroordelen of discriminatie.
Traditionele AI-systemen waren gebaseerd op expertkennis en regels. Als een bank bijvoorbeeld overweegt om iemand een lening te geven, dan categoriseren ze kandidaten op basis van kenmerken zoals geslacht, beroep of andere demografische data. Maar met de huidige AI-modellen voor machinaal leren en diep leren, wordt er afgestapt van starre categorieën. In plaats van categorieën toe te passen zoals “vrouwen van een bepaalde leeftijd en sociaaleconomische achtergrond”, is de focus verschoven naar het verzamelen van enorme hoeveelheden gedragsmatige data. Deze data kan dingen omvatten zoals banktransacties of surfgeschiedenis. Het idee is dat door naar deze granulaire data te kijken, beslissingen genomen kunnen worden zonder te vertrouwen op vooraf gedefinieerde categorieën die discriminatie kunnen versterken.
Deze verschuiving is niet alleen technisch: ze roept ook filosofische vragen op over hoe categorieën worden opgebouwd, hoe ze de maatschappij beïnvloeden en de ethische overwegingen bij het gebruik ervan binnen AI-systemen.
De AI-wet: Persoonlijke data en verantwoordelijkheid
Het huidige landschap van AI-wetgeving, met als voorbeeld de AI-wet, laat een fundamentele spanning zien tussen traditionele wetgevingscategorieën en de evoluerende aard van technische hulpmiddelen. De AI-wet maakt AI-systemen wettelijk op basis van gebruik in plaats van ze in starre categorieën in te delen, en erkent dat de risico's en implicaties van AI nauw verbonden zijn met de gebruikscontext. De Wet introduceert bijvoorbeeld veelzijdige AI's die veelzijdige toepassingen kunnen hebben. De uitdaging is om het risico ervan in te schatten, maar hoe kan het risico van iets worden ingeschat als het gebruik ervan nog niet duidelijk gedefinieerd is?
De verschuiving van traditionele machine learning naar meer geavanceerde generatieve AI doet de grenzen tussen gebruik en verantwoordelijkheid verder vervagen. Een retailchatbot die generatieve AI gebruikt, kan bijvoorbeeld interne tools en productinformatie gebruiken om aanbevelingen te doen of FAQ's te beantwoorden. Maar het kan ook te maken krijgen met misbruik, zoals beledigende vragen gericht op het ontlokken van giftige reacties voor berichten op sociale media. Dit roept kritieke vragen op voor bedrijven: waar ligt de verantwoordelijkheid voor het beheren van deze risico's? Is het alleen de verantwoordelijkheid van de aanvaller als die misbruik maakt van het systeem, of ligt de verantwoordelijkheid ook bij de makers en uitvoerders van de AI?
Naarmate het aantal spelers binnen het AI-ecosysteem toeneemt, wordt de verantwoordelijkheid steeds meer versnipperd. Niet alleen de uitroller van het AI-systeem kan verantwoordelijk zijn, maar ook de entiteit die het basismodel produceert. Wanneer er zich incidenten voordoen, wordt het een complexe taak om te bepalen wie de grootste verantwoordelijkheid draagt, vooral wanneer de spelers verspreid zijn over verschillende organisaties en zelfs geografische locaties.
AI-regelgeving en ethische zakelijke toepassingen
Kaders zoals de AI-wet moeten het spanningsveld tussen conventionele regelgevingsparadigma's en het huidige dynamische AI-landschap aanpakken. Adaptieve regelgevende strategieën zijn essentieel om de veelzijdige aard van AI-systemen en hun implicaties aan te kunnen.
Bedrijven kunnen lessen uit categorisatie gebruiken om klantsegmentatiestrategieën te verfijnen, marketingcampagnes op maat te maken en klantervaringen te personaliseren. Bovendien kunnen bedrijven, door ethische overwegingen op te nemen in AI-ontwikkelingsprocessen, risico's op vooroordelen en discriminatie beperken en vertrouwen en transparantie bij belanghebbenden bevorderen.
Het belang van categorieën ligt in hun rol als ons sociale kader om de wereld te begrijpen en te evalueren. Fijn afgestemde categorieën zijn essentieel voor het vertegenwoordigen van verschillende stemmen, vooral diegenen die beïnvloed worden door AI-vooroordelen. Het is van cruciaal belang om een breed scala aan belanghebbenden te betrekken, waaronder AI-gebruikers en getroffen individuen.
“Categorieën fungeren als een lens waardoor we de nuances en mogelijke vooroordelen in AI-systemen kunnen evalueren en aanpakken. Ze zijn cruciaal voor het bieden van een gemeenschappelijke taal en begrip onder belanghebbenden, en om ervoor te zorgen dat AI op een verantwoorde en ethisch verantwoorde manier ontwikkeld en ingezet blijft worden.”Jean-Marie John-Mathews
