Artefact Research Center

Een veelgebruikte familie van machine-learning modellen is gebaseerd op beslisbomen: random forests, boosting. Hoewel hun nauwkeurigheid vaak state of the art is, lijden dergelijke modellen aan een black-box gevoel, waardoor de gebruiker beperkte controle heeft. We willen de verklaarbaarheid en transparantie ervan vergroten, met name door de schatting van SHAP-waarden te verbeteren in het geval van ongebalanceerde datasets. We streven er ook naar om bepaalde garanties te bieden voor dergelijke modellen, bijvoorbeeld voor monsters die niet getraind zijn of door betere monotone beperkingen mogelijk te maken.

De uitdaging van een betere toepassing van AI in bedrijven bestaat enerzijds uit het verbeteren van de AI modellen en anderzijds uit het begrijpen van de menselijke en organisatorische aspecten. Op het kruispunt van kwalitatief managementonderzoek en sociaal onderzoek probeert deze as te onderzoeken waar bedrijven moeilijkheden ondervinden bij de adoptie van AI tools. De bestaande kaders voor de adoptie van innovaties zijn niet helemaal geschikt voor innovaties op basis van machinaal leren, omdat er typische verschillen zijn met regelgeving, opleiding van mensen of vooroordelen als het gaat om AI, en meer nog met generatieve AI.

Het project maakt gebruik van kwalitatieve en kwantitatieve onderzoeksmethoden en richt zich op twee belangrijke vragen: Hoe kunnen bedrijven effectief sociale en ecologische duurzaamheidsprestaties meten? Waarom leiden duurzaamheidsmaatregelen vaak niet tot significante veranderingen in organisatiepraktijken?

Enerzijds heeft het project tot doel om data-gedreven meetmethoden te verkennen en indicatoren te identificeren om organisatorische procedures af te stemmen op sociale en ecologische duurzaamheidsdoelstellingen. Anderzijds zal het project zich richten op het omzetten van deze duurzaamheidsmaatregelen in concrete acties binnen bedrijven.

Wanneer een model een voorspelling doet op basis van een afbeelding, bijvoorbeeld van een gezicht, heeft het toegang tot gevoelige informatie, zoals de etniciteit, het geslacht of de leeftijd, die zijn redenering kan beïnvloeden. We willen een raamwerk ontwikkelen om deze vertekening wiskundig te meten en methodes voorstellen om deze vertekening tijdens de modeltraining te verminderen. Bovendien zou onze aanpak zones met een sterke vertekening statistisch detecteren om te verklaren en te begrijpen en te controleren waar dergelijke modellen de vertekening die aanwezig is in de data versterken.

Een belangrijke toepassing van LLM's is wanneer ze gekoppeld worden aan een corpus van documenten die bepaalde industriële kennis of informatie vertegenwoordigen. In zo'n geval is er een stap van het ophalen van informatie, waarvoor LLM's enkele beperkingen hebben, zoals de grootte van de invoertekst, die te klein is om documenten te indexeren. Op dezelfde manier kan het hallucinatie-effect ook optreden in het uiteindelijke antwoord, dat we proberen te detecteren met behulp van het opgehaalde document en de modelonzekerheid op het moment van inferentie.

Naast ons team dat zich bezighoudt met onderzoek, hebben we verschillende medewerkers die enige tijd besteden aan wetenschappelijk onderzoek en het publiceren van artikelen. Door ook als consultant te werken, inspireren we hen met problemen die onze klanten in de praktijk tegenkomen.