来源笔记

Token spend breaks budgets – what next?

文章指出,AI 编码代理的 token 成本上涨得足够快,已经迫使许多软件公司做预算取舍。这个问题重要,因为代理使用正在从开发工具成本变成工程部门可见的运营支出。

  • 公司希望工程师使用编码代理,但 token 支出增长可能快于预算和规划周期。
  • 默认使用昂贵模型、高强度设置和没有上限的代理循环,会把普通编码工作变成每位开发者数百到数千美元的成本。
  • 管理层的主要问题,是判断更高的支出什么时候能换来更快交付,什么时候只是浪费。
  • 作者采访了 15 家公司的开发者和工程负责人,案例来自大型公司、中型公司、初创公司和种子轮公司。
  • 文章对比了支出模式、工具选择、默认模型、限额、折扣和管理层的应对方式。
  • 核心机制很直接:跟踪 token 用量,把简单任务分流到更便宜的模型,设置更便宜的默认项,限制支出,或者在产出提高时接受更高支出。
  • 报道把两种常见回应分开:一类是保持使用开放,同时衡量影响;另一类是通过模型选择和预算限制压缩支出。
  • 两家公司表示,token 支出在六个月内上涨了约 10 倍,而且没有明显放缓。
  • 一家种子轮 AI 基础设施公司表示,六个月内支出增长了 15 倍,从每位开发者每月约 200 美元升到七名开发者合计每位每月约 3,000 美元。
  • 一家金融科技公司表示,有些开发者在 Claude Code 上每天花 500 美元,员工成本实际翻倍,代码审查成了瓶颈。
  • 一家 2,000 人规模的 SaaS 公司说,改默认模型后成本下降了 30%。
  • 一家金融公司有大约 800 到 1,200 名 Cursor 和 Claude Desktop 用户,发现每用户 100 美元的限额在 3 到 5 个工作日内就会用完。
  • 其他具体数据包括:一次 1 万美元的一周缓存失误、高端用户每周约 1,000 美元、单日 Claude Code 会话花费 1,400 美元、在相同工程团队下流量同比增长超过 10 倍、Cursor 在支出约 100 万美元后提供折扣,以及年支出超过 500 万美元的公司没有拿到 Anthropic 折扣。