Pourquoi mon agent d'arrière-plan prive-t-il de ressources celui orienté utilisateur qui partage la même infrastructure ?

Lorsque plusieurs agents IA s'exécutent simultanément, certains orientés utilisateur et d'autres en arrière-plan, ils se disputent la capacité d'inférence des LLM, les fenêtres de contexte et les limites de débit des API, sans aucun ordre de priorité. Les planificateurs d'infrastructure standard sont sensibles au CPU et à la mémoire, mais ne comprennent pas la sémantique des charges de travail LLM : quelles requêtes sont des chaînes d'outils en cours d'exécution, lesquelles ont des effets secondaires irréversibles, et lesquelles peuvent être préemptées et reprises en toute sécurité. Il en résulte qu'un travail d'arrière-plan incontrôlé prive de ressources une requête utilisateur sensible à la latence, et le seul remède actuel est le réglage manuel des limites de débit par déploiement. Le document HiveMind propose une approche inspirée des systèmes d'exploitation, mais il s'agit d'un prototype de recherche sans adoption en production ni interface standard sur laquelle les frameworks d'agents pourraient s'appuyer.