NIEUWS / AI TECHNOLOGIE

Artefact drie dingen om te onthouden over de realiteit van AI:

Artefact drie dingen om te onthouden over de realiteit van AI:

1. AI is geen magie

De “intelligentie” van AI stelt haar niet in staat om de data die haar “voedsel” voorstelt in twijfel te trekken. Het “werkt” met wat wordt aangeleverd. Als de kwaliteit van de data niet relevant, volledig en betrouwbaar is, zal het algoritme niet aan de verwachtingen kunnen voldoen en zal zijn antwoord op het probleem onbetrouwbaar zijn.

De kwaliteit van het model alleen bepaalt niet de kwaliteit van de uitvoerresultaten. Deze hangen rechtstreeks samen met de kwaliteit van de invoer data. Kwaliteit door ontwerp is een van de vereisten voor elk AI-project.

Het waarborgen en handhaven van de kwaliteit data is een van de belangrijkste verantwoordelijkheden van AI-kernprojecten.

2. Een noodzakelijk “ambacht” van de kunstmatige

Het model voorzien van data van goede kwaliteit is niet voldoende. Data is niet direct bruikbaar en het proces vereist dat mensen een aantal handmatige stappen uitvoeren.

Machine-leermodellen zijn wiskundige structuren met potentieel. Net als menselijke spieren moeten ze getraind worden om zich aan te passen aan de vereiste inspanning.

AI-algoritmen moeten ook “trainen” op een data-basis. Zo “leren” ze efficiënter te zijn.

Om algoritmen te trainen, zijn drie handmatige stappen nodig:

  1. Zorg voor kwaliteit data: selectie, validatie, invoer, kwaliteitsevaluatie enz.
  2. Bereid de leerbasis voor: de data selecteren, transformeren en labelen om het bruikbaar te maken. Dit laatste is nodig voor supervised en semi-supervised algoritmen, waarbij de data verkend, geanalyseerd en vervolgens “gelabeld” wordt door metadata*. Als we beeldherkenning als voorbeeld nemen, levert het labelproces een bank met afbeeldingen en een beschrijving voor elke afbeelding op. Dit is een tijdrovende, handmatige stap, waarbij de inhoud van enkele duizenden foto's beschreven moet worden.
  3. Trein: Herhalende methodologie van modelselectie en training op basis van leren tot het juiste model is verkregen. In tegenstelling tot wat vaak wordt gedacht, is AI geen magie. Het is geen intelligente machine die zich simpelweg voedt met informatie en uit zichzelf leert - plug and play bestaat niet.

Deze handmatige stappen vertalen zich in belangrijke bedrijfsregels en methodologieën die gebruikt moeten worden zodat we algoritmen op de juiste manier kunnen exploiteren en integreren in bestaande infrastructuren.

3. AI verheft mensen, maar vervangt hun intelligentie niet

AI wordt nog steeds door mensen geprogrammeerd, hoewel sommige algoritmen hun parameters automatisch aanpassen. Als er cognitieve vooroordelen bestaan tijdens het programmeren of als er vooroordelen aanwezig zijn in de invoer data, zal de AI deze niet detecteren en een vooringenomen resultaat produceren dat niet in lijn is met de oorspronkelijke doelstellingen, of dat onethische bedoelingen heeft.

In 2016 ontwierp Microsoft een AI met de naam Tay “om met mensen te communiceren en ze te vermaken”. Tay uitte zich op Twitter, een kanaal dat de AI verrijkte door interacties met internetgebruikers. Wanneer Tay ‘vrij’ was, verzamelde hij alle informatie die de Twittersphere wilde delen, ten goede of ten kwade...

...Na 24 uur en 96.000 tweets werd de verbinding met de AI verbroken. Tay's toon, openhartig en enthousiast toen hij voor het eerst online ging, was snel veranderd. Tay werd geconfronteerd met extreme standpunten en begon racistische opmerkingen te maken.

Motherboard*, een van de referentiesites van de Amerikaanse technische pers, gaf commentaar op het evenement: “Rousseau had gelijk: mensen worden goed geboren, de maatschappij corrumpeert ze. Wat hij niet wist, is dat het postulaat net zo goed werkt met de machine.”

Hoewel het voorbeeld van Tay weinig impact had, kan een bevooroordeelde AI gebruikt worden als een wapen van massadiscriminatie. Een kandidaat-scoresysteem dat een bedrijf gebruikt, kan bijvoorbeeld de waarschijnlijkheid verhogen dat profielen worden uitgesloten op basis van parameters zoals geslacht of geografische herkomst om overeen te komen met de huidige profielen, zonder dat dit wordt opgemerkt door wervingsteams. De AI moet verfijnd worden om ongewenste parameters te elimineren die het model negatief kunnen beïnvloeden.

Door het gebruik van complexe algoritmen, zoals neurale netwerken, worden mogelijke vertekeningen niet geïdentificeerd. Het model wordt gevalideerd op basis van zijn vermogen om voorbeelden te reproduceren, die met voorzichtigheid moeten worden gebruikt. De verkennende aard van het model maakt het ook mogelijk om parameters te detecteren die intuïtief door mensen zouden worden genegeerd, maar die wel invloed hebben op het gewenste resultaat.