Почему мой агент продолжает тратить ресурсы, хотя любой разумный бюджет давно бы его остановил?
Возможность
ИИ-агенты, выполняющие многошаговые рабочие процессы, потребляют токены в 20-100 раз быстрее, чем одиночный запрос, и не существует примитива на уровне инфраструктуры для принудительного ограничения расходов или вычислительных ресурсов во время выполнения. Когда два агента входят в рекурсивный цикл уточнений или агент извлечения данных запрашивает слишком много контекста, единственным сигналом оказывается счёт в конце месяца. Такие фреймворки, как LangGraph и AutoGen, обрабатывают повторные попытки и чекпойнты, однако ни один из них не применяет ресурсный контракт, останавливающий выполнение при превышении заявленного бюджета. В статье на arXiv за январь 2026 года формализуется то, как мог бы выглядеть такой контракт, однако разрыв между этой формализацией и пригодным к развёртыванию примитивом, работающим у разных поставщиков моделей и при вызовах инструментов, остаётся весьма значительным.
Почему это важно
Ресурсный контракт времени выполнения является недостающим уровнем безопасности, который делает развёртывание агентов безопасным для передачи в руки непрофессионалов.
Как я оцениваю возможность
Оценка возможности отражает моё личное суждение, а не точное измерение: насколько проблема болезненна, как часто она встречается и насколько мало существует решений сегодня. Чем выше оценка, тем более достойной реализации я считаю эту задачу.
Насколько серьёзные проблемы это создаёт.
Как часто люди с этим сталкиваются.
Насколько мало хороших инструментов для этого существует сегодня.
Ещё задачи, достойные решения
Почему каждое приложение ИИ забывает меня, как только я закрываю вкладку?
AIПочему освоение новой области по-прежнему упирается в умение задавать правильные вопросы?
AIПочему неспециалист не может проверить то, что только что сказал ему ИИ?
AIПочему мы тестируем модели на бенчмарках, а выпускаем их на интуиции?
AIПочему у ИИ-агентов нет памяти о собственных ошибках?
AIПочему я не могу проверить, на каких данных на самом деле обучалась модель?