Learn
Что такое agent cost optimization?
Agent cost optimization балансирует model choice, context size, heartbeat frequency и tool calls, чтобы roles deliver accepted work per dollar — не minimum tokens на leaderboard.
Подробнее
Оптимизация стоимости агента балансирует выбор модели, размер контекста, частоту heartbeats и вызовы тулов так, чтобы роль давала принятую работу на доллар — а не минимум токенов в бенчмарке.
Рычаги: дешёвая модель на triage, дорогая на финальный черновик; меньше бесполезного контекста; heartbeat не чаще ритма работы; кэш retrieval; Ask, чтобы не жечь токены на бесконечные ретраи.
Neuro OS показывает бюджеты на роль — Бюджеты — и останавливает прогон у лимита.
Примеры
- Triage на маленькой модели, ответ клиенту — на frontier
- Heartbeat раз в день вместо каждых 5 минут на weekly-метриках
- Top-5 чанков RAG вместо всего PDF в промпт
- Стоп при недельном капе inference
Связанные термины
FAQ
Самая дешёвая модель всегда лучше?
Нет. Дешёвая модель с высокой долей правок человеком дороже frontier с высоким acceptance.
Как считать unit-экономику роли?
Стоимость токенов + тулов на принятый выход, а не на сырой прогон.
Запускайте роли агентов на корпоративной ОС — не только определения в глоссарии.