TokenCast: Forecasting Token Consumption During LLM Agent Execution

arxiv · arXiv · 2026-09-29 01:59 · 评分 79

提出 TokenCast，学习可组合成本模型，在 LLM 智能体执行任务时预测 token 消耗并随运行动态修正；同一任务 token 消耗差异可达一个数量级，该预测有助资源规划。