エージェントが幻覚に基づいて行動する前に、ストリーミング中にそれを検知するにはどうすればよいか？

現在、ハルシネーションの検出は事後的に行われている。モデルが完全な応答を出力し、別の判定モデルがそれを採点し、人間または後続のチェックが対処方法を決定する。ツール呼び出し、ウェブ検索、コード実行を含むエージェント型パイプラインでは、チェックが実行されるころには、エージェントがすでに架空のエンティティや誤帰属した事実に基づいて行動している可能性がある。長い思考連鎖推論におけるストリーミングハルシネーション検出に関する2026年1月の論文は、内部表現を用いて生成途中に捏造を検出することが可能であることを示しているが、この手法は研究段階であり、公開APIでは利用できない隠れ状態へのアクセスを必要とする。解決すべき課題は、エージェントが不可逆的な行動を起こす前に生成にフラグを立てられる、ストリーミング対応でAPI互換のハルシネーションセンサーだ。