Skip to content
AI

Why does the model I use for evaluation prefer the model it came from?

81

Opportunité

LLM-as-judge has become the default way to run quality evaluations at scale, but judges from the same model family rate their own outputs 10 to 25 percent higher than equivalent outputs from a different family. Multiple 2025 and 2026 papers confirm the bias holds across position, verbosity, and rubric-constrained formats, and simple mitigations like panel voting reduce but do not eliminate it. Existing measurement frameworks cannot separate genuine quality differences from stylistic self-matching, so the effect cannot be corrected without first being cleanly isolated. Any team using the incumbent model to evaluate a replacement is running an evaluation with a structural thumb on the scale.

Pourquoi c'est important

The entire AI improvement loop depends on honest quality signals, and a biased evaluator corrupts that signal at the source without raising any alert.

Comment j'évalue l'opportunité

Le Score d'Opportunité est mon évaluation personnelle, pas une mesure : l'intensité de la douleur, sa fréquence et le peu de solutions qui existent aujourd'hui. Plus il est élevé, plus je pense que le problème vaut la peine d'être résolu.

Gravité8/10

L'intensité de la douleur qu'il provoque lorsqu'il se manifeste.

Fréquence9/10

La fréquence à laquelle les gens y sont réellement confrontés.

Espace libre7/10

Le peu de bons outils qui existent pour y remédier aujourd'hui.

D'autres problèmes qui méritent d'être résolus