Coding-agent verification and access control
Jane Street 认为,模型生成的代码会增加审查负担,因为模型可以完成局部任务,却违反代码库的不变量。它的应对办法是在日常开发中加入更多证明反馈:更强的类型约束、模块化规格,以及代理可以帮助编写和维护的形式化方法。文中没有新的基准,但引用了旧的 seL4 成本基线:验证 8,700 行 C 代码要 25 人年,用来说明成本为何重要。
Cordium 处理的是另一个控制点:执行环境。它把开发者、CI 和 AI 代理的工作空间作为无 root 的 Kubernetes 沙箱运行。对数据库、SSH、内部 HTTP API、Kubernetes 集群和 mTLS 服务的访问由 Octelium посред介,因此上游凭证不会进入工作空间。这种设计适合希望代理在内部系统中执行操作、又不把密钥复制进短生命周期容器的团队。