Perché i modelli addestrati sul web di oggi peggiorano progressivamente man mano che l'IA ne scrive sempre di più?

Opportunità

Il web è ora il corpus di addestramento principale per i modelli frontier ed è già saturo di testo generato dall'IA che nessun filtro esistente riesce a intercettare in modo affidabile. Ricerche pubblicate tra il 2024 e il 2026 mostrano che anche una frazione di percento di dati sintetici in un training run innesca un collasso distribuzionale nelle generazioni successive, riducendo la diversità degli output e degradando le prestazioni di coda. Il circolo di retroazione è strutturale: i modelli addestrati quest'anno producono contenuti che contaminano il corpus per il training run dell'anno prossimo. Le mitigazioni proposte, come le allowlist a livello di sorgente, i filtri per watermark e i verificatori di dati sintetici, hanno ciascuna vettori di bypass e nessuna è stata implementata alla scala dei web crawler. Non esiste un protocollo concordato per identificare e mettere in quarantena i dati di addestramento generati dall'IA prima che entrino in un modello.

Perché è importante

Un corpus di addestramento condiviso in degradazione impone un limite massimo a ogni modello costruito su dati pubblici, e quel limite si abbassa a ogni generazione.

Come valuto l'opportunità

L'Opportunity Score è la mia valutazione personale, non una misurazione: quanto fa male, con quale frequenza colpisce e quanto poco esiste per risolverlo oggi. Un punteggio più alto significa che lo ritengo più degno di essere sviluppato.

Gravità8/10

Quanto dolore provoca quando si manifesta.

Frequenza8/10

Quanto spesso le persone ci si imbattono davvero.

Spazio bianco8/10

Quanti pochi strumenti validi esistono oggi per affrontarlo.

Altri problemi che vale la pena risolvere

Perché ogni app AI mi dimentica nel momento in cui chiudo la scheda?

Perché imparare un nuovo campo dipende ancora dal sapere cosa chiedere?

Perché una persona non esperta non riesce a verificare ciò che un'AI le ha appena detto?

Perché testiamo i modelli sui benchmark ma li rilasciamo a sensazione?

Perché gli agenti AI non hanno memoria dei propri errori?

Perché non posso verificare su cosa è stato effettivamente addestrato un modello?

← Tutti i problemi che vale la pena risolvere Su Anurag →