主题概况

代理安全

趋势
3
想法
0
最近一期
2026-07-18
趋势 · 日 · 2026-07-18 · Software Intelligence

代理可靠性正围绕模型进行工程化构建

近期对代理框架和可执行检查的关注,正以面向实现的形式延续。今天的材料将组织上下文、静态风险检测、可观测性和容量管理置于模型周围。证据具有实践性,但仍然有限:材料包括项目文档、监控仪表板和招聘信息,而不是受控的比较研究。

趋势 · 周 · 2026-W19 · Software Intelligence

编码代理面临更严格的信任测试:执行轨迹、仓库纪律和行动前检查

本周研究把大语言模型(LLM)编码代理视为需要先给出证据才能被信任的系统。最有力的工作通过执行、仓库任务、形式化证明、工具契约和对抗性安全测试来检查生成代码。SWE Atlas、VeriContest 和 RubricRefine 展示了同一个实用标准:有用的代理必须留下可检查的证据,处理常规工程工作,并避免不安全操作。