Waarom kan ik de betrouwbaarheidsscore van een model niet vertrouwen als het er het meest toe doet?

Moderne taalmodellen produceren routinematig tokens met hoge betrouwbaarheid bij verkeerde antwoorden en tokens met lage betrouwbaarheid bij juiste. Het verschil tussen de opgegeven kans en de werkelijke nauwkeurigheid, de kalibratiefout, is gedocumenteerd voor frontiermodellen in een onderzoek uit 2025 dat methoden op basis van entropie, logit en perturbatie bestrijkt. Productieagenten die deze scores gebruiken om te beslissen wanneer ze moeten doorverwijzen of zich onthouden, erven de miscalibratie rechtstreeks, zodat ze ofwel vooruithallusineren met valse zekerheid ofwel juiste antwoorden onnodig weigeren. Geen enkel kant-en-klaar primitief biedt een gekalibreerd, bruikbaar onzekerheidssignaal dat goedkoop genoeg is om bij elke uitvoertoken in een streamende respons te worden uitgevoerd tijdens inferentie.