Bounded execution and tool interfaces
Agent 执行正变成一个有成本的子系统。Terminus-4B 训练了一个 4B 模型,让它为编码代理运行终端命令,再把简短摘要返回给主代理。文中给出的 Serilog 示例把主代理 token 从 2.46M 降到 740k,同时子代理在内部处理 9 条命令,并用大约 200 个 token 报告构建、测试和失败细节。
TSCG 在工具目录层面处理同样的部署压力。它在模型看到之前,把 JSON 工具 schema 编译成结构化文本。论文报告了跨 12 个模型约 19,000 次基准调用,小模型在 20 到 50 个工具时提升很大,在生产风格 schema 上也节省了大量 token。这个实际主张很窄,也很有用:当代理的接口按模型消费方式来写时,它调用工具会更可靠。