主题概况

Agent Safety

第 1 / 2 页
趋势
11
想法
11
最近一期
2026-07-05
想法 · 日 · 2026-07-05 · Software Intelligence

编码代理运行控制

编码代理上线现在需要在失败成本高的地方设置小型运行控制:混乱的代码库、shell 访问和人工审查。近期最清楚的工作可以被测量:在真实任务上跟踪代理的 token 使用量和文件重复访问次数,把命令执行与长期运行的代理进程隔离,并限制每位审查者同时处理的代理生成 pull request 数量。

趋势 · 日 · 2026-06-18 · Software Intelligence

编码代理需要经过失败测试的指导和带关卡的执行

这一时期的编码代理工作由运行证据来判断:用失败来测试仓库指令,用基线测试为拉取请求设关卡,以及用基准暴露语言和项目规模上的差距。Probe-and-Refine、Phoenix 和 Multi-LCB 定下了基调:有用的自动化需要一个执行环境来记录尝试过什么,以及失败发生在哪里。

想法 · 日 · 2026-06-18 · Software Intelligence

编码代理发布控制

仓库维护者现在可以把代理指令、拉取请求创建和模型选择当作可测试的软件工作来处理。实际做法包括:在失败探针后修订的紧凑仓库指导、由基线对照测试和权限门禁阻断的 issue 代理拉取请求,以及覆盖生产所用语言和项目规模的评估套件。