Artefact Research Center

Eine weit verbreitete Familie von Modellen des maschinellen Lernens basiert auf Entscheidungsbäumen: Random Forests, Boosting. Während ihre Genauigkeit oft dem neuesten Stand der Technik entspricht, leiden solche Modelle unter einem Black-Box-Gefühl, das dem Nutzer nur begrenzte Kontrolle bietet. Unser Ziel ist es, ihre Erklärbarkeit und Transparenz zu erhöhen, indem wir die Schätzung der SHAP-Werte im Falle unausgewogener Datensätze verbessern. Wir wollen auch einige Garantien für solche Modelle bieten, z. B. für nicht trainierte Stichproben oder durch die Ermöglichung besserer monotoner Beschränkungen.

Die Herausforderung für eine bessere Einführung von AI in Unternehmen besteht darin, einerseits die Modelle von AI zu verbessern und andererseits die menschlichen und organisatorischen Aspekte zu verstehen. An der Schnittstelle zwischen qualitativer Managementforschung und Sozialforschung soll in diesem Schwerpunkt untersucht werden, wo Unternehmen Schwierigkeiten bei der Einführung von AI Tools haben. Die bestehenden Rahmenwerke für die Übernahme von Innovationen sind für Innovationen im Bereich des maschinellen Lernens nicht ganz geeignet, da es typische Unterschiede bei der Regulierung, der Ausbildung der Menschen oder der Voreingenommenheit gibt, wenn es um AI geht, und erst recht bei generativen AI.

Das Projekt wird qualitative und quantitative Forschungsmethoden einsetzen und zwei Schlüsselfragen behandeln: Wie können Unternehmen ihre soziale und ökologische Nachhaltigkeitsleistung effektiv messen? Warum führen Nachhaltigkeitsmaßnahmen oft nicht zu signifikanten Veränderungen in der Unternehmenspraxis?

Einerseits zielt das Projekt darauf ab, data-gesteuerte Metriken zu erforschen und Indikatoren zu identifizieren, um organisatorische Verfahren mit sozialen und ökologischen Nachhaltigkeitszielen in Einklang zu bringen. Andererseits wird sich das Projekt darauf konzentrieren, diese Nachhaltigkeitsmaßnahmen in konkrete Aktionen innerhalb der Unternehmen umzusetzen.

Wenn ein Modell eine Vorhersage auf der Grundlage eines Bildes trifft, das z. B. ein Gesicht zeigt, hat es Zugang zu sensiblen Informationen wie der ethnischen Zugehörigkeit, dem Geschlecht oder dem Alter, die seine Schlussfolgerungen verfälschen können. Unser Ziel ist es, einen Rahmen zu entwickeln, um solche Verzerrungen mathematisch zu messen, und Methoden vorzuschlagen, um diese Verzerrungen während des Modelltrainings zu reduzieren. Darüber hinaus würde unser Ansatz Zonen starker Verzerrungen statistisch aufdecken, um zu erklären, zu verstehen und zu kontrollieren, wo solche Modelle die Verzerrungen in data verstärken.

Eine wichtige Anwendung von LLMs ist die Verbindung mit einem Korpus von Dokumenten, die industrielles Wissen oder Informationen darstellen. In einem solchen Fall gibt es einen Schritt der Informationsbeschaffung, für den LLMs einige Einschränkungen aufweisen, wie z.B. die Größe des Eingabetextes, der für die Indizierung von Dokumenten zu klein ist. In ähnlicher Weise kann der Halluzinationseffekt auch in der endgültigen Antwort auftreten, die wir mit Hilfe des abgerufenen Dokuments und der Modellunsicherheit zur Inferenzzeit erkennen wollen.

Neben unserem Team, das sich der Forschung widmet, haben wir mehrere Mitarbeiter, die einige Zeit mit wissenschaftlicher Forschung und der Veröffentlichung von Artikeln verbringen. Indem sie auch als Berater arbeiten, inspirieren sie sich an realen Problemen, die bei unseren Kunden auftreten.