Hoe weet ik of de code die mijn AI-assistent heeft geschreven daadwerkelijk correct is?

LLM's produceren code die unit tests doorstaat maar geen formele eigenschappen vervult. Een model kan tests construeren die slagen door constructie, niet omdat de logica klopt. Formele verificatietools bestaan, maar vereisen het schrijven van specificaties in theorem-prover-syntaxis, wat vrijwel geen werkende ontwikkelaar doet. Recente benchmarks laten zien dat frontier-modellen slechts 3,2 procent succes behalen bij end-to-end verifieerbare codegeneratie, wat betekent dat de kloof tussen aannemelijk uitziende code en bewezen correcte code vrijwel volledig open blijft. Teams die door AI geschreven code naar productie sturen, gokken op testdekking die de modellen zelf kunnen manipuleren.