Why do my AI-generated tests pass on the bugs they were meant to catch?
Opportunità
AI coding assistants generate unit tests by reading the implementation, so assertions reflect what the code currently does rather than what it should do. A test written against a buggy function learns the bug as a fixture, not a violation. Developers shipping with 90% AI-generated coverage see mutation scores stay flat and real regressions slip through unchanged. The core issue is the oracle problem: there is no ground truth for correct behavior unless you supply it, and AI assistants have no access to the requirements or intent behind the code. Research from July 2025 confirms that LLM-generated tests frequently pass on the exact buggy code they were written against, failing only when the bug is fixed.
Perché è importante
A test suite that passes on broken code is worse than no test suite, because it turns the primary quality signal into a false guarantee.
Come valuto l'opportunità
L'Opportunity Score è la mia valutazione personale, non una misurazione: quanto fa male, con quale frequenza colpisce e quanto poco esiste per risolverlo oggi. Un punteggio più alto significa che lo ritengo più degno di essere sviluppato.
Quanto dolore provoca quando si manifesta.
Quanto spesso le persone ci si imbattono davvero.
Quanti pochi strumenti validi esistono oggi per affrontarlo.
Altri problemi che vale la pena risolvere
Perché il software da cui dipendiamo di più è il peggiore da usare?
TechPerché non possiedo ancora nessuno dei dati che genero?
TechPerché non riesco a ottenere una ricevuta che dimostri che i miei dati sono stati effettivamente eliminati?
TechPerché non posso sapere se ciò che è in esecuzione corrisponde a quanto dichiarato nel mio SBOM?
TechPerché ogni catena di provenienza C2PA si spezza nel momento in cui i contenuti raggiungono i social media?
TechPerché posso portare i miei post ma non il profilo che le piattaforme hanno costruito osservandomi?