Tech

Why do my AI-generated tests pass on the bugs they were meant to catch?

Fırsat

AI coding assistants generate unit tests by reading the implementation, so assertions reflect what the code currently does rather than what it should do. A test written against a buggy function learns the bug as a fixture, not a violation. Developers shipping with 90% AI-generated coverage see mutation scores stay flat and real regressions slip through unchanged. The core issue is the oracle problem: there is no ground truth for correct behavior unless you supply it, and AI assistants have no access to the requirements or intent behind the code. Research from July 2025 confirms that LLM-generated tests frequently pass on the exact buggy code they were written against, failing only when the bug is fixed.

Neden önemli

A test suite that passes on broken code is worse than no test suite, because it turns the primary quality signal into a false guarantee.

Fırsatı nasıl puanlıyorum

Fırsat Puanı benim kendi değerlendirmem, bir ölçüm değil: ne kadar acı verdiği, ne sıklıkla etkisi olduğu ve bugün için ne kadar az çözüm bulunduğu. Daha yüksek puan, inşa etmeye daha değer olduğunu düşündüğüm anlamına gelir.

Ciddiyet8/10

Ortaya çıktığında ne kadar sorun yarattığı.

Sıklık9/10

İnsanların bununla gerçekte ne sıklıkla karşılaştığı.

Boşluk8/10

Bugün bunun için ne kadar az iyi araç bulunduğu.