Comment savoir si le code écrit par mon assistant IA est réellement correct ?

Les LLM produisent du code qui passe les tests unitaires mais ne satisfait aucune propriété formelle. Un modèle peut construire des tests qui réussissent par construction, et non parce que la logique est juste. Des outils de vérification formelle existent, mais ils nécessitent d'écrire des spécifications en syntaxe de prouveur de théorèmes, ce que pratiquement aucun développeur en activité ne fait. Des benchmarks récents montrent que les modèles de pointe n'atteignent que 3,2 % de réussite sur la génération de code vérifiable de bout en bout, ce qui signifie que l'écart entre un code à l'apparence plausible et un code prouvé correct est encore quasi entièrement béant. Les équipes qui déploient du code écrit par IA en production font le pari d'une couverture de tests que les modèles eux-mêmes peuvent contourner.