Perché non c'è alcun avviso prima che l'output errato di un agente contamini il resto della mia pipeline?
Opportunità
I sistemi multi-agente falliscono con tassi compresi tra il 41% e l'87%, con i soli guasti di coordinamento che rappresentano il 37% di questi fallimenti, eppure non esiste un livello di osservabilità che faccia emergere il rischio a cascata prima che si propaghi. A differenza dei microservizi, dove un picco di latenza in un servizio appare nelle dashboard APM prima di trascinare giù gli altri, un output allucinato o errato di un agente si propaga silenziosamente fino a quando un agente a valle non agisce su di esso in modo irreversibile. Le modalità di guasto emergenti nei contesti multi-agente, incluse allucinazioni a cascata, collusione tra agenti e perdita di informazioni, non possono essere previste dalle valutazioni di sicurezza del singolo agente. L'International AI Safety Report 2026 e l'OWASP Agentic AI Top 10 pubblicato nel dicembre 2025 segnalano entrambi l'amplificazione a cascata come un rischio di primo livello, e nessuno strumento in produzione lo affronta specificamente.
Perché è importante
Un livello di osservabilità a cascata per le pipeline di agenti è la stessa primitiva che APM è stata per i microservizi, e non esiste ancora.
Come valuto l'opportunità
L'Opportunity Score è la mia valutazione personale, non una misurazione: quanto fa male, con quale frequenza colpisce e quanto poco esiste per risolverlo oggi. Un punteggio più alto significa che lo ritengo più degno di essere sviluppato.
Quanto dolore provoca quando si manifesta.
Quanto spesso le persone ci si imbattono davvero.
Quanti pochi strumenti validi esistono oggi per affrontarlo.
Altri problemi che vale la pena risolvere
Perché ogni app AI mi dimentica nel momento in cui chiudo la scheda?
AIPerché imparare un nuovo campo dipende ancora dal sapere cosa chiedere?
AIPerché una persona non esperta non riesce a verificare ciò che un'AI le ha appena detto?
AIPerché testiamo i modelli sui benchmark ma li rilasciamo a sensazione?
AIPerché gli agenti AI non hanno memoria dei propri errori?
AIPerché non posso verificare su cosa è stato effettivamente addestrato un modello?