Skip to content
AI

Почему мой агент продолжает тратить ресурсы, хотя любой разумный бюджет давно бы его остановил?

85

Возможность

ИИ-агенты, выполняющие многошаговые рабочие процессы, потребляют токены в 20-100 раз быстрее, чем одиночный запрос, и не существует примитива на уровне инфраструктуры для принудительного ограничения расходов или вычислительных ресурсов во время выполнения. Когда два агента входят в рекурсивный цикл уточнений или агент извлечения данных запрашивает слишком много контекста, единственным сигналом оказывается счёт в конце месяца. Такие фреймворки, как LangGraph и AutoGen, обрабатывают повторные попытки и чекпойнты, однако ни один из них не применяет ресурсный контракт, останавливающий выполнение при превышении заявленного бюджета. В статье на arXiv за январь 2026 года формализуется то, как мог бы выглядеть такой контракт, однако разрыв между этой формализацией и пригодным к развёртыванию примитивом, работающим у разных поставщиков моделей и при вызовах инструментов, остаётся весьма значительным.

Почему это важно

Ресурсный контракт времени выполнения является недостающим уровнем безопасности, который делает развёртывание агентов безопасным для передачи в руки непрофессионалов.

Как я оцениваю возможность

Оценка возможности отражает моё личное суждение, а не точное измерение: насколько проблема болезненна, как часто она встречается и насколько мало существует решений сегодня. Чем выше оценка, тем более достойной реализации я считаю эту задачу.

Серьёзность9/10

Насколько серьёзные проблемы это создаёт.

Частота8/10

Как часто люди с этим сталкиваются.

Пробелы8/10

Насколько мало хороших инструментов для этого существует сегодня.

Ещё задачи, достойные решения