主题概况

Agent Security

第 1 / 2 页
趋势
9
想法
14
最近一期
2026-07-18
想法 · 日 · 2026-07-08 · Software Intelligence

编码代理的控制闭环

编码代理的采用面临三个具体的运维问题:不可信仓库可能诱导代理运行攻击者代码,重复事件持续产生完整的推理成本,面向人工编写的问题文本可能让修复代理缺少判断依据。最实际的改进包括限制仓库和 MCP 工具使用的执行检查、将经过验证的事件轨迹转化为操作手册的升级规则,以及在问题提交时收集可执行的修复证据。

想法 · 日 · 2026-07-04 · Software Intelligence

智能体执行边界

智能体团队可以在故障会变贵的位置加入具体运行控制:为 LLM 请求做调用前成本预留,在 RAG chunk 或工具调用到达模型前做确定性授权,以及为消费级 GPU 硬件上的 out-of-core 本地推理设置一条范围明确的 Windows 基准测试。

趋势 · 日 · 2026-07-01 · Software Intelligence

编码智能体需要证据链、预算和更安全的工具访问

最有力的工作把编码智能体当作运行中的系统来评估。SWE-Doctor 用失败测试作为探针,Microsoft 遥测数据把命令行智能体与更高的 pull request 输出联系起来,Claude Desktop 红队报告则显示同步偏好设置如何变成工作站风险。当前重点是可衡量的行为、成本和控制。