Pourquoi les agents IA n'ont-ils aucun souvenir de leurs propres erreurs ?

Opportunity

Un agent commettra le mardi la même erreur que le lundi, parce que rien ne perpétue la leçon. Nous avons de la mémoire pour les faits et presque aucune pour les échecs. Un agent incapable d'apprendre de ce qui a mal tourné est un stagiaire amnésique.

Why it matters

Les agents ne se verront pas confier de vrais travaux tant qu'ils ne s'amélioreront pas de manière fiable au fil du temps.

Comment j'évalue l'opportunité

The Opportunity Score is my own read, not a measurement: how much it hurts, how often it bites, and how little exists to solve it today. Higher means I think it is more worth building.

Gravité7/10

How much pain it causes when it shows up.

Fréquence8/10

How often people actually run into it.

Espace libre8/10

How little good tooling exists for it today.

D'autres problèmes qui méritent d'être résolus

Pourquoi chaque application IA m'oublie-t-elle dès que je ferme l'onglet ?

Pourquoi apprendre un nouveau domaine est-il encore conditionné par le fait de savoir quoi demander ?

Pourquoi un non-expert ne peut-il pas vérifier ce qu'une IA vient de lui dire ?

Pourquoi teste-t-on les modèles sur des benchmarks mais les déploie-t-on à l'instinct ?

Pourquoi ne puis-je pas vérifier sur quoi un modèle a réellement été entraîné ?

Pourquoi un document empoisonné peut-il exfiltrer silencieusement tout ce que mon assistant sait sur moi ?

← Tous les problèmes qui méritent d'être résolus About Anurag →