代理软件研究围绕能发现真实部署失败的检查展开
这一时期的主要信号是对 AI 构建软件提出更严格的证据要求。ConCovUp、RubricRefine 和 MonitoringBench 都是在测试代理的具体失效模式:错过并发交互、错误的工具契约,以及隐藏的破坏。快速做应用也会带来可测的安全和维护成本。
这一时期的主要信号是对 AI 构建软件提出更严格的证据要求。ConCovUp、RubricRefine 和 MonitoringBench 都是在测试代理的具体失效模式:错过并发交互、错误的工具契约,以及隐藏的破坏。快速做应用也会带来可测的安全和维护成本。
Agent 软件工作正在转向与具体失败模式绑定的检查:会返回看似合理却错误结果的实时工具调用、用狭窄攻击集测试的监控器,以及顺序测试漏掉共享内存交互的 C/C++ 库。实际工作是在这些流程前面加小门槛,避免 agent 直接接触生产系统或安全关键仓库。