Das Problem der Halluzinationen<\/h2>\n
Gro\u00dfe Sprachmodelle sind erstaunlich leistungsf\u00e4hig. Sie fassen zusammen, \u00fcbersetzen, schlussfolgern und programmieren (besser als ich). Aber im Gegensatz zu mir sind sie auch daf\u00fcr ber\u00fcchtigt geworden, mit beunruhigendem Selbstvertrauen Fakten zu erfinden.<\/p>\n
In der Literatur zur Verarbeitung nat\u00fcrlicher Sprache (NLP) ist eine Halluzination ein modellgenerierter Inhalt, der faktisch falsch, unsinnig oder nicht quellentreu ist, aber vollkommen plausibel erscheint. Die Folgen reichen von harmlos (eine falsche Trivialantwort) bis hin zu schwerwiegend (ein gef\u00e4lschtes Rechtszitat, eine falsche Medikamentendosierung). Wenn Unternehmen LLMs in ihre Produktionssysteme integrieren, verschiebt sich die Frage von \u201cKann dieses Modell n\u00fctzlichen Text erzeugen?\u201d<\/em> zu \u201cK\u00f6nnen wir dem vertrauen, was es gerade gesagt hat?\u201d<\/em><\/p>\n Betrachten Sie ein konkretes Beispiel. Sie arbeiten bei einem Finanzinstitut und fragen Ihren \u00f6rtlichen LLM:<\/p>\n \u201cWie hoch war der Nettoumsatz von Emerson Electric im Jahr 2023?\u201d<\/p><\/blockquote>\n Das Modell antwortet: \u201cEmerson Electric meldete f\u00fcr das Gesch\u00e4ftsjahr 2023 einen Nettoumsatz von etwa $15,2 Milliarden.\u201d<\/em> Klingt vern\u00fcnftig. Aber ist es auch richtig? Sie haben den Jahresbericht nicht ge\u00f6ffnet. Sie haben keine Basiswahrheit, mit der Sie vergleichen k\u00f6nnen. Sie haben nur die Ergebnisse des Modells - und Zweifel.<\/p>\n Das ist die Umgebung, in der wir arbeiten. Kein Orakel. Keine Referenzantwort zum Zeitpunkt der Inferenz. Nur eine LLM-Antwort und die metadata, die sie bei der Generierung erzeugt. Das Ziel: Quantifizierung der Wahrscheinlichkeit, dass diese Ausgabe bei einem einzigen Generierungsdurchlauf halluziniert wird.<\/p>\n Eine nat\u00fcrliche Idee ist es, dem Modell dieselbe Frage mehrmals zu stellen und zu pr\u00fcfen, ob die Antworten \u00fcbereinstimmen. Wenn f\u00fcnf von sechs Durchl\u00e4ufen \u201c$15,2 Milliarden\u201d ergeben und einer \u201c$18,7 Milliarden\u201d, gibt Ihnen der Konsens eine gewisse Sicherheit. Dies ist das Prinzip hinter Methoden wie SelfCheckGPT, die die Konsistenz \u00fcber mehrere Stichproben hinweg messen - ein \u201cMonte-Carlo-\u00e4hnlicher\u201d Ansatz zur Erkennung von Halluzinationen.<\/p>\n Es funktioniert. Aber es hat zwei entscheidende Nachteile:<\/p>\n Diese Einschr\u00e4nkungen haben uns dazu veranlasst, nach einem anderen Signal zu suchen - einem, das billig und einmalig ist und auf der Token-Ebene funktioniert (die einzelnen Teile von W\u00f6rtern, die der LLM intern verarbeitet).<\/p>\n Wenn ein LLM Text erzeugt, gibt er nicht nur Token aus. Bei jedem Schritt berechnet er eine Wahrscheinlichkeitsverteilung \u00fcber sein gesamtes Vokabular: \u201cWie wahrscheinlich ist angesichts der Aufforderung und allem, was ich bisher generiert habe, jeder m\u00f6gliche n\u00e4chste Token?\u201d<\/em>\u00a0Der gewinnende Token wird in die Stichprobe aufgenommen. Der Rest wird verworfen. Aber diese Wahrscheinlichkeiten (und genauer gesagt, wie breit sie gestreut sind) enthalten Informationen \u00fcber das interne Vertrauen des Modells.<\/p>\n Wenn das Modell sehr sicher ist, konzentriert sich der gr\u00f6\u00dfte Teil der Wahrscheinlichkeitsmenge auf einen einzigen Token. Wenn das Modell z\u00f6gert, verteilt sich die Wahrscheinlichkeit auf viele Kandidaten. Diese Streuung ist genau das, was die Entropie misst.<\/p>\n Entropie ist eine informationstheoretische Gr\u00f6\u00dfe, die die Unsicherheit einer Wahrscheinlichkeitsverteilung misst. Die Intuition ist ganz einfach. Stellen Sie sich drei Kisten vor. Eine enth\u00e4lt einen Keks. Sie m\u00fcssen raten, welcher es ist.<\/p>\n Ersetzen Sie nun die K\u00e4stchen durch Token und den Keks durch das \u201crichtige\u201d n\u00e4chste Wort. Bei jedem Generierungsschritt steht ein LLM genau vor dieser Wahl - nur dass es anstelle von 3 K\u00e4stchen aus einem Vokabular von mehr als 100.000 Token ausw\u00e4hlt. Wenn das Modell zuversichtlich ist, dominiert ein Token und die Entropie ist niedrig. Wenn es z\u00f6gert, steigt die Entropie.<\/p>\n Die Wahrscheinlichkeitsverteilung verteilt sich in zwei verschiedenen F\u00e4llen.<\/em><\/p>\n Die wichtigste Erkenntnis ist, dass eine hohe Entropie an einer bestimmten Tokenposition mit einer h\u00f6heren Fehlerwahrscheinlichkeit an dieser Position korreliert. Das Modell teilt Ihnen durch seine Wahrscheinlichkeitsverteilung mit, dass es nicht sicher ist, was als n\u00e4chstes kommt. Wir m\u00fcssen nur zuh\u00f6ren.<\/p>\n Unsere erste Metrik, EPR (Entropy Production Rate), ist direkt. F\u00fcr jedes Token in der generierten Sequenz berechnen wir die Entropie der Top-K vorhergesagten Token-Wahrscheinlichkeiten des Modells. Dann bilden wir den Durchschnitt \u00fcber die gesamte Sequenz. Daraus ergibt sich eine einzige Zahl, die das durchschnittliche Z\u00f6gern des Modells \u00fcber die gesamte Antwort widerspiegelt.<\/p>\n Dies ist eine un\u00fcberwachte Metrik: keine Kennzeichnungen erforderlich. In unseren Experimenten (ver\u00f6ffentlicht auf der ECIR 2026) erreicht EPR allein bei TriviaQA \u00fcber vier verschiedene LLMs hinweg ROC-AUC-Werte zwischen 74 und 81. Nicht schlecht f\u00fcr eine Metrik, die abgesehen von einem einzigen Generierungsdurchlauf im Grunde nichts kostet.<\/p>\n Aber wir k\u00f6nnen es besser machen.<\/p>\n Bei der Roh-Entropie werden alle Token-R\u00e4nge gleich behandelt. Der Entropiebeitrag des Tokens auf Rang 1 (dem wahrscheinlichsten) und des Tokens auf Rang 10 werden gleich gewichtet. In der Praxis birgt die Art und Weise, wie sich die Unsicherheit auf die R\u00e4nge verteilt, diskriminierende Informationen.<\/p>\n WEPR (Weighted EPR) lernt eine Reihe von Gewichten, um diese Beitr\u00e4ge wieder auszugleichen. Es verwendet zwei Signale:<\/p>\n Diese Merkmale werden in eine logistische Regression eingespeist, die auf einem gelabelten dataset trainiert wurde. Die Ausgabe des Sigmoids ist eine kalibrierte Wahrscheinlichkeit:<\/p>\n \u201cDiese Antwort enth\u00e4lt mit einer Wahrscheinlichkeit von 86% eine Halluzination.\u201d<\/p><\/blockquote>\n Neben der Klassifizierung erstellt WEPR auch Bewertungen auf Token-Ebene. Jedes Token in der generierten Sequenz erh\u00e4lt seine eigene Halluzinationswahrscheinlichkeit, so dass Sie genau bestimmen k\u00f6nnen, welche Teile einer Antwort eine genauere Betrachtung verdienen. Die Berechnung erfolgt in Echtzeit, Token f\u00fcr Token, w\u00e4hrend das Modell generiert - Sie m\u00fcssen nicht auf die vollst\u00e4ndige Ausgabe warten.<\/p>\n Eine \u00fcberwachte Methode erfordert Annotationen. Tausende von QA-Paaren von Hand zu beschriften ist langsam. Daher verwenden wir ein LLM-als-Richter<\/strong> Ansatz: ein separates Modell vergleicht jede generierte Antwort mit der bekannten Grundwahrheit und kennzeichnet sie als richtig oder falsch.<\/p>\n Ist das zuverl\u00e4ssig? Wir haben sie anhand von menschlichen Kommentatoren validiert. Eine Gruppe von 15 Forschern hat \u00fcber 1.300 Antwortpaare von Hand beschriftet. Die \u00dcbereinstimmung zwischen dem automatischen Richter und den menschlichen Bewertern erreichte 95,7%, mit einem Cohen's Kappa von 0,90. Die automatischen Kennzeichnungen sind ein zuverl\u00e4ssiger Ersatz f\u00fcr die menschliche Beurteilung und robust genug, um einen Halluzinationsdetektor darauf zu trainieren.<\/p>\n![\"\"](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2026\/05\/Detecting-Hallucinations-in-LLMs-One-Token-at-a-Time-Image-1.png\")
<\/p>\nHalluzinationen erkennen: Es ist schwieriger als es klingt<\/h2>\n
Der Brute-Force-Ansatz<\/h3>\n
\n
Das Signal ist bereits da<\/h3>\n
Entropie: ein kurzer Abstecher<\/h3>\n
![\"\"](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2026\/05\/Detecting-Hallucinations-in-LLMs-One-Token-at-a-Time-Image-2.png\")
<\/p>\n\n
![\"\"](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2026\/05\/Detecting-Hallucinations-in-LLMs-One-Token-at-a-Time-Image-3.png\")
<\/p>\nVon Entropie zu Halluzinationen - Noten<\/h2>\n
EPR: Entropie-Produktionsrate<\/h3>\n
WEPR: Gewichtete Entropieproduktionsrate<\/h3>\n
\n
![\"\"](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2026\/05\/Detecting-Hallucinations-in-LLMs-One-Token-at-a-Time-Image-4.png\")
<\/p>\n![\"\"](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2026\/05\/Detecting-Hallucinations-in-LLMs-One-Token-at-a-Time-Image-5.png\")
<\/p>\nWas ist mit Etiketten?<\/h3>\n
Wir stellen Ihnen artefactual vor: Jetzt sind Sie an der Reihe.<\/h2>\n
![\"\"](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2026\/05\/Detecting-Hallucinations-in-LLMs-One-Token-at-a-Time-Image-6.png\")
<\/p>\n![\"\"](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2026\/05\/Detecting-Hallucinations-in-LLMs-One-Token-at-a-Time-Image-7.png\")
<\/p>\n