AI 编码代理正通过轨迹、门禁和证明检查接受评判
这一时期最清楚的判断是:AI 编码代理需要可验证的运行记录。ProcGrep 给动作轨迹打分;VerIbmc 只接受 ESBMC 检查过的不变式;Aegis 用经过证明的安全区封住路由器明文。文章和事故报告提出了同一个实践要点:生成代码很便宜,风险集中在验证上。
这一时期最清楚的判断是:AI 编码代理需要可验证的运行记录。ProcGrep 给动作轨迹打分;VerIbmc 只接受 ESBMC 检查过的不变式;Aegis 用经过证明的安全区封住路由器明文。文章和事故报告提出了同一个实践要点:生成代码很便宜,风险集中在验证上。
编码代理的采用正在转向可由软件检查的运行记录,然后再由人工签字确认。实际工作包括:要求可重放 QA 证据的 pre-push 门禁、只接受经验证器检查不变式的本地证明循环,以及让提示和工具调用避开明文主机内存的路由路径。