编码代理需要轨迹、关卡和支出控制，自主性才可信
本周研究把大型语言模型（LLM）代理视为受控的软件工作者。最有力的工作要求提供轨迹、可执行检查、工具限制和审查关卡。Claude Code 说明这已经不只是基准测试问题：编码代理正在进入软件供应链。
主题概况
AI safety
编码智能体控制闸门
编码智能体已经接近日常工程工作，团队需要围绕合并、代码库导航和训练数据设置具体控制。实际做法是保留智能体轨迹，测试精确找代码这一步，并把高风险工具使用或 AI 编写的变更送入可见的审查闸门。
本周研究把大型语言模型（LLM）代理视为受控的软件工作者。最有力的工作要求提供轨迹、可执行检查、工具限制和审查关卡。Claude Code 说明这已经不只是基准测试问题：编码代理正在进入软件供应链。
编码智能体已经接近日常工程工作，团队需要围绕合并、代码库导航和训练数据设置具体控制。实际做法是保留智能体轨迹，测试精确找代码这一步，并把高风险工具使用或 AI 编写的变更送入可见的审查闸门。