Why does the model I use for evaluation prefer the model it came from?

Opportunità

LLM-as-judge has become the default way to run quality evaluations at scale, but judges from the same model family rate their own outputs 10 to 25 percent higher than equivalent outputs from a different family. Multiple 2025 and 2026 papers confirm the bias holds across position, verbosity, and rubric-constrained formats, and simple mitigations like panel voting reduce but do not eliminate it. Existing measurement frameworks cannot separate genuine quality differences from stylistic self-matching, so the effect cannot be corrected without first being cleanly isolated. Any team using the incumbent model to evaluate a replacement is running an evaluation with a structural thumb on the scale.

Perché è importante

The entire AI improvement loop depends on honest quality signals, and a biased evaluator corrupts that signal at the source without raising any alert.

Come valuto l'opportunità

L'Opportunity Score è la mia valutazione personale, non una misurazione: quanto fa male, con quale frequenza colpisce e quanto poco esiste per risolverlo oggi. Un punteggio più alto significa che lo ritengo più degno di essere sviluppato.

Gravità8/10

Quanto dolore provoca quando si manifesta.

Frequenza9/10

Quanto spesso le persone ci si imbattono davvero.

Spazio bianco7/10

Quanti pochi strumenti validi esistono oggi per affrontarlo.

Altri problemi che vale la pena risolvere

Perché ogni app AI mi dimentica nel momento in cui chiudo la scheda?

Perché imparare un nuovo campo dipende ancora dal sapere cosa chiedere?

Perché una persona non esperta non riesce a verificare ciò che un'AI le ha appena detto?

Perché testiamo i modelli sui benchmark ma li rilasciamo a sensazione?

Perché gli agenti AI non hanno memoria dei propri errori?

Perché non posso verificare su cosa è stato effettivamente addestrato un modello?

← Tutti i problemi che vale la pena risolvere Su Anurag →