Como sei que o código que meu assistente de IA escreveu está realmente correto?

LLMs produzem código que passa em testes unitários, mas não satisfaz nenhuma propriedade formal. Um modelo pode construir testes que passam por construção, não porque a lógica está correta. Ferramentas de verificação formal existem, mas exigem escrever especificações em sintaxe de provador de teoremas, o que quase nenhum desenvolvedor em atividade faz. Benchmarks recentes mostram que modelos de fronteira alcançam apenas 3,2 por cento de sucesso na geração de código verificável de ponta a ponta, o que significa que a lacuna entre código de aparência plausível e código comprovadamente correto está quase completamente em aberto. Equipes que colocam código escrito por IA em produção estão apostando em cobertura de testes que os próprios modelos conseguem manipular.