主题概况

Agent Security

第 2 / 2 页
趋势
9
想法
14
最近一期
2026-07-18
想法 · 日 · 2026-06-19 · Software Intelligence

受控智能体运营

智能体团队现在有了可测试的具体控制模式:用于过期状态故障的确定性重放、用于多文件安全缺陷的发布前源码审计,以及用于常规知识工作的会话锁定模型路由。公开证据大多来自产品或文章主张,因此更有用的做法是开展范围较窄的本地试验,并衡量误报、成本、延迟和回滚行为。

趋势 · 日 · 2026-06-15 · Software Intelligence

AI 编码代理正通过轨迹、门禁和证明检查接受评判

这一时期最清楚的判断是:AI 编码代理需要可验证的运行记录。ProcGrep 给动作轨迹打分;VerIbmc 只接受 ESBMC 检查过的不变式;Aegis 用经过证明的安全区封住路由器明文。文章和事故报告提出了同一个实践要点:生成代码很便宜,风险集中在验证上。

想法 · 周 · 2026-W20 · Software Intelligence

代码代理运行溯源

代码代理工作现在已有足够证据支持更窄的采用门禁:接受代理拉取请求前要求可运行的设置和测试证明;信任排行榜数字前审计评测工具链中的分数利用;漏洞修复中使用成对的崩溃和安全执行。共同的运维需求是一份记录,说明运行了什么、什么失败了、改了什么,以及可用权限有哪些。

趋势 · 日 · 2026-03-30 · Software Intelligence

LLM 编码研究对控制面变得更认真了

当天最强的主题是围绕 LLM 编码系统的控制。新工作尝试压缩到真正相关的代码,追踪自然语言/程序边界上的流动,并用更严格的权限限制代理动作。它们在修复和分析基准上都有可量化的收益,但证据也表明,单靠更强的定位或更多上下文,仍然补不上剩下的质量差距。

想法 · 日 · 2026-03-30 · Software Intelligence

LLM 编码控制面

围绕 LLM 编码系统,三条控制点上的具体工作正在成形:在修复前压缩仓库上下文、在 LLM 调用边界上恢复污点和切片、以及限制编码代理在开发者机器上能碰什么。证据最强的是那些报告了修复准确率、分析质量或操作工作流可测效果的论文;安全工具还处在早期的地方,证据较弱,但已经具体到可以直接测试。