来源笔记
Predictions for the Future of AI
摘要
这篇文章认为，AI 采用会受到推理成本、疲弱的消费者需求和不均衡的生产率提升限制。它关于软件的最强论点是，编码助手可能让优秀工程师的生产率提高约 20-30%，同时非程序员会构建更多定制软件，并带来新的维护和安全风险。
问题
- AI 推理的定价可能低于成本，所以当前需求可能依赖隐藏补贴，而非持久的客户价值。
- 许多消费级 AI 功能解决的是低价值问题，所以即使模型大幅进步，如果用户不愿付费，这些功能也可能失败。
- 软件团队需要知道 LLM 在哪些地方提高生产率，又在哪些地方制造昂贵、有缺陷、难维护的输出。
方法
- 作者比较了乐观和悲观的 token 成本情景，然后追问哪些 AI 用例能在价格上涨后继续存在。
- 核心机制很简单：如果一个 AI 工作流的成本高于它创造的价值，用户会停止使用，或团队会重构它以减少 token 使用量。
- 对于软件工作，文章区分了任务层面的提速和整份工作的替代，并聚焦于替代关系：更多人可以创建软件，但熟练工程师在判断、架构、安全和可维护性方面仍然必要。
- 文章使用例子而非实验，包括 AI 邮件回复、AI 生成的商业图片、编码助手、自主浏览器演示和小企业定制应用。
结果
- 文章没有提供基准测试或受控实验结果；这是一篇预测文章，不是实证研究论文。
- 推理定价估计范围从乐观情形下每 $1 计算成本支付 $0.60-$0.70，到悲观情形下在超大规模云服务商资本开支、私人信贷、循环交易和税务处理补贴后，每 $1 支付低于 $0.10。
- 作者预计，即使单个工程师的 Claude 账单约为每月 $4,000，生产环境中的 AI 工作流仍会面临成本控制。
- 文章把消费者付费意愿设定为较低：餐厅预订代理在每月 $200 或 $20 时可能失败，可能只有接近每月 $2 时才可行。
- 对于编码助手，作者估计优秀工程师的平均生产率可能提高约 20-30%，同时认为 10 倍或 100 倍的说法缺乏研究支持。
- 一个编码例子称，LLM 生成的 50,000 行项目可能包含约 48,000 行重复现有开源功能且增加缺陷的代码，因此原始代码量不是好的生产率指标。