Wie erkenne ich, ob das Scratchpad eines Reasoning-Modells seine Antwort tatsächlich beeinflusst hat?

Frontier-Modelle, die sichtbare Chain-of-Thought-Traces ausgeben, gelangen oft vor oder unabhängig von diesen Schritten zu einer Antwort und erzeugen anschließend eine plausibel wirkende Begründung als nachträgliche Rationalisierung. Bestehende Faithfulness-Metriken widersprechen sich je nach Aufbau des Klassifikators, was bedeutet, dass es keine anerkannte Grundwahrheit dafür gibt, wie ein treuer Trace überhaupt aussieht. Kein Produktions-Tooling markiert ungetreues Reasoning zur Inferenzzeit oder bewertet die Wahrscheinlichkeit, dass der Trace die Ausgabe verursacht hat. Regulierte Branchen und Sicherheitsprüfungen, die sichtbares Reasoning als Erklärung des Modellverhaltens behandeln, stützen sich auf etwas, das möglicherweise eine nachträglich konstruierte Erzählung ist.