面向模糊智能体工作的评估与审查控制
将澄清、形式化验证和专家审查安排在错误变得难以逆转的决策点，能够更精确地测试智能体的可靠性。最有价值的改进涉及智能体何时提问、策略结论是否具有可执行的推导，以及哪些中间产物确实会触发审查。
主题概况
Human Oversight
Coding-agent research is tightening control over generation and verification
这一天最强的工作都在让 AI 编码更可用，方法是收窄模型可以自由发挥的范围，并增加针对真实行为运行的检查。测试生成、静态分析和运行时监控都变得更有结构。核心思路很直接：让模型提出方案，把约束、执行反馈和验证产物承担更多安全关键工作。
Postgeneration Verification Controls
最清楚的近期开发布局，是给模型允许产出的内容加上硬约束，并在生成后继续保留验证。这里最具体的三个例子，是用于静态分析聊天的类型化中间层、从现有测试合成的运行时语义检查器，以及把一个可信测试扩展成场景变体并进行修复和验证的仓库测试机器人。