Pourquoi les agents IA n'ont-ils aucun souvenir de leurs propres erreurs ?
Opportunité
Un agent commettra le mardi la même erreur que le lundi, parce que rien ne perpétue la leçon. Nous avons de la mémoire pour les faits et presque aucune pour les échecs. Un agent incapable d'apprendre de ce qui a mal tourné est un stagiaire amnésique.
Pourquoi c'est important
Les agents ne se verront pas confier de vrais travaux tant qu'ils ne s'amélioreront pas de manière fiable au fil du temps.
Comment j'évalue l'opportunité
Le Score d'Opportunité est mon évaluation personnelle, pas une mesure : l'intensité de la douleur, sa fréquence et le peu de solutions qui existent aujourd'hui. Plus il est élevé, plus je pense que le problème vaut la peine d'être résolu.
L'intensité de la douleur qu'il provoque lorsqu'il se manifeste.
La fréquence à laquelle les gens y sont réellement confrontés.
Le peu de bons outils qui existent pour y remédier aujourd'hui.
D'autres problèmes qui méritent d'être résolus
Pourquoi chaque application IA m'oublie-t-elle dès que je ferme l'onglet ?
AIPourquoi apprendre un nouveau domaine est-il encore conditionné par le fait de savoir quoi demander ?
AIPourquoi un non-expert ne peut-il pas vérifier ce qu'une IA vient de lui dire ?
AIPourquoi teste-t-on les modèles sur des benchmarks mais les déploie-t-on à l'instinct ?
AIPourquoi ne puis-je pas vérifier sur quoi un modèle a réellement été entraîné ?
AIPourquoi les données d'entraînement ne comportent-elles aucun enregistrement lisible par machine indiquant si quelqu'un a consenti ?