主题概况

Agent Reliability

趋势
4
想法
4
最近一期
2026-07-16
趋势 · 日 · 2026-07-16 · Software Intelligence

可执行门控揭示静态代理评分遗漏的失败

近期围绕工程化检查的进展正变得更加面向实际操作。当前证据支持将控制措施绑定到实际源状态、工具版本和领域规则。静态或纯文本的成功表现可能掩盖供应链、工作流和适应性方面的失败。这些研究大多范围较窄或处于早期阶段,因此确立的是具体的失败模式,而不是广泛的生产可靠性。

趋势 · 日 · 2026-07-07 · Software Intelligence

代码代理需要验证器、审查器和基于轨迹的修复

当天的研究将代码代理视为需要在工作过程中接受外部检查的系统。Aria 展示了大规模的验证器门控证明搜索;SWE-Review 加入了面向代码库的审查;TraceProbe 衡量一次运行如何搜索、编辑和验证。当前重点是工作流中的可靠性证据,最终任务分数只是多个信号之一。

想法 · 日 · 2026-05-19 · Software Intelligence

Agent State Verification

Agent 部署正在获得具体的控制点:并行编码代理的写入时状态检查、桌面任务的可执行状态验证器,以及用于选择或延后生成代码的运行时证据。共同模式很简单:记录代理看到的内容,把动作和当前状态对齐检查,并在系统拒绝或转派输出时保留机器可读的原因。