Wie erkenne ich eine Halluzination mitten im Stream, bevor mein Agent darauf reagiert?

Halluzinationserkennung findet heute im Nachhinein statt. Das Modell gibt eine vollständige Antwort aus, ein separates Richtermodell bewertet sie, und ein Mensch oder eine nachgelagerte Prüfung entscheidet, was zu tun ist. In agentischen Pipelines mit Werkzeugaufrufen, Websuchen oder Code-Ausführung hat der Agent möglicherweise bereits auf eine erfundene Entität oder ein falsch zugeordnetes Faktum reagiert, bevor eine Prüfung stattfindet. Ein Paper vom Januar 2026 zur Streaming-Halluzinationserkennung bei langen Chain-of-Thought-Überlegungen zeigt, dass die Erkennung von Fabrikationen während der Generierung mithilfe interner Repräsentationen machbar ist, die Technik jedoch Forschungscharakter hat und Zugang zu verborgenen Zuständen erfordert, die über keine öffentliche API verfügbar sind. Die Lücke ist ein streaming-fähiger, API-kompatibler Halluzinationssensor, der eine Generierung markieren kann, bevor der Agent eine unumkehrbare Aktion ausführt.