Artefact Centre de recherche

Une famille de modèles d'apprentissage automatique largement utilisée est basée sur les arbres de décision : forêts aléatoires, boosting. Bien que leur précision soit souvent à la pointe de la technologie, ces modèles souffrent d'un sentiment de boîte noire, donnant un contrôle limité à l'utilisateur. Nous visons à accroître leur explicabilité et leur transparence, notamment en améliorant l'estimation des valeurs SHAP dans le cas d'ensembles de données déséquilibrés. Nous visons également à fournir certaines garanties pour ces modèles, par exemple pour les échantillons non entraînés ou en permettant de meilleures contraintes monotones.

Le défi d'une meilleure adoption de l'IA dans les entreprises est d'améliorer les modèles d'IA d'une part, et de comprendre les aspects humains et organisationnels d'autre part. Au croisement de la recherche qualitative en gestion et de la recherche sociale, cet axe cherche à explorer les difficultés rencontrées par les entreprises lors de l'adoption des outils d'IA. Les cadres existants sur l'adoption de l'innovation ne sont pas entièrement adaptés aux innovations en matière d'apprentissage automatique, car il existe des différences typiques avec la réglementation, la formation des personnes ou les préjugés lorsqu'il s'agit d'IA, et plus encore avec l'IA générative.

Le projet mobilisera des méthodes de recherche qualitatives et quantitatives et abordera deux questions clés : Comment les entreprises peuvent-elles mesurer efficacement leur performance en matière de durabilité sociale et environnementale ? Pourquoi les mesures de durabilité ne parviennent-elles souvent pas à entraîner des changements significatifs dans les pratiques organisationnelles ?

D'une part, le projet vise à explorer les mesures basées sur le site data et à identifier les indicateurs permettant d'aligner les procédures organisationnelles sur les objectifs de durabilité sociale et environnementale. D'autre part, le projet se concentrera sur la transformation de ces mesures de durabilité en actions concrètes au sein des entreprises.

Lorsqu'un modèle fait une prédiction basée sur une image, par exemple celle d'un visage, il a accès à des informations sensibles, telles que l'origine ethnique, le sexe ou l'âge, qui peuvent fausser son raisonnement. Nous visons à développer un cadre permettant de mesurer mathématiquement ces biais et à proposer des méthodologies pour les réduire lors de l'apprentissage du modèle. En outre, notre approche permettrait de détecter statistiquement les zones de forte partialité afin d'expliquer, de comprendre et de contrôler les cas où de tels modèles renforcent la partialité présente sur le site data.

L'une des principales applications des LLM est le couplage avec un corpus de documents qui représentent des connaissances ou des informations industrielles. Dans ce cas, il y a une étape de recherche d'information, pour laquelle les LLM montrent certaines limitations, telles que la taille du texte d'entrée, qui est trop petite pour l'indexation des documents. De même, l'effet d'hallucination peut également se produire dans la réponse finale, que nous visons à détecter en utilisant le document récupéré et l'incertitude du modèle au moment de l'inférence.

Outre notre équipe dédiée à la recherche, nous avons plusieurs collaborateurs qui consacrent du temps à la recherche scientifique et à la publication d'articles. En travaillant également comme consultants, ils s'inspirent des problèmes concrets rencontrés par nos clients.