Abstention and engineering-quality benchmarks
FixedBench 盯住了常规 issue-resolution 分数看不到的一种失败模式:代理在正确补丁已经应用后,仍然继续改代码。在主要的 resolved 设置里,代理仍然在 35% 到 65% 的案例中做出了不该有的可执行代码修改。直接使用 “Abstain or Fix” 提示词能让一些模型更愿意放弃操作,但也会让部分已修复问题上出现有害的不作为。
SWE Atlas 把评测范围扩展到代码库问答、编写测试和重构,覆盖 18 个活跃仓库。它的 rubric 检查会在功能测试通过后暴露质量缺口。最好的原生脚手架结果在 Pass@1 上仍停留在 40 多分,最佳 Pass³ 也只有 29.2,所以一致性仍然是明确瓶颈。