Come faccio a sapere che il codice scritto dal mio assistente AI è effettivamente corretto?

I modelli LLM producono codice che supera i test unitari ma non soddisfa alcuna proprietà formale. Un modello può costruire test che passano per costruzione, non perché la logica sia corretta. Esistono strumenti di verifica formale, ma richiedono la scrittura di specifiche nella sintassi dei theorem prover, cosa che quasi nessuno sviluppatore fa nella pratica. Benchmark recenti mostrano che i modelli frontier raggiungono solo il 3,2 percento di successo nella generazione di codice verificabile end-to-end, il che significa che il divario tra codice dall'aspetto plausibile e codice dimostratamente corretto è rimasto quasi interamente aperto. I team che mettono in produzione codice scritto dall'AI stanno scommettendo sulla copertura dei test che i modelli stessi possono manipolare.