趋势

代理可靠性取决于上下文处理和可验证的交接

日 · 2026-07-11 · Software Intelligence

最有说服力的工作把上下文处理当作工程控制。qMLX 在一台 Mac Studio 上减少了长上下文的重复预填充,ContextOps 则在推理前检查输入载荷的结构。AgentTransfer 将同样的操作纪律用于文件交换。现有证据支持可检查的组件,但多个项目仍缺少独立基准测试。

长上下文控制

当每轮都重新计算完整历史,或有用信息变得难以检索时,大上下文窗口的价值就会受限。qMLX 从磁盘恢复键值(KV)注意力状态,并修复前缀匹配和中断历史记录方面的错误。在一台 M3 Ultra 上,32,000 个 token 的重复预填充时间从 88 秒降至 0.64 秒;在 168,000 个 token 的上下文中,一次简短的后续请求在 2.6 秒内生成了首个 token。

ContextOps 在大型语言模型(LLM)运行前检查重复的检索块、提示词增长、来源集中度和 token 分布不均。其示例发现了 214 个重复 token,估计可节省 12% 的 token。另一段社交媒体摘录称,检索率从 256,000 个 token 时的 80% 降至 100 万个 token 时的 36%,但没有提供数据集或评测协议。这些材料共同支持更严格的上下文测量;只有 qMLX 报告提供了详细的运行时测量,而且数据来自单台机器。

代理交接与私有计算

AgentTransfer 为软件代理提供身份、收件箱、存储、面向接收方的传输、完整性检查和签名回执。其离线演示在两个代理之间传输一个 1 MiB 文件,并验证 SHA-256 哈希和回执链。该项目还声称,其模型上下文协议(MCP)桥接器可以传输最大 5 GB 的文件,而无需将文件字节放入模型上下文,但没有报告吞吐量或可靠性测试。

Mesh LLM 将受信任的机器汇集到一个兼容 OpenAI 的端点后面。请求可以在本地运行、路由到对等节点,或将模型层拆分到多个节点上运行。这让现有客户端可以使用分布式私有推理,但当前证据只证明了功能可用:没有提供延迟、成本或可靠性基准。

受监督软件工作中的编码代理

两份一线报告显示,编码代理可以参与维护、设计、实现、执行和审查。Terence Tao 使用代理,在几小时内将约二十个过时的 Java 小程序移植到 JavaScript,随后又制作了新的数学可视化工具。他发现了一个轻微的迁移错误,代理则发现了原始代码中的两个缺陷。由于这些工具风险较低且用于辅助工作,人工检查足以作为验证手段。

另一份软件开发指南使用代理总结问题讨论串、检查相关拉取请求、讨论实现方案、运行本地命令,并生成文件级审查记录。指南没有提供受控测量,但展示了明确的分工:代理压缩调查过程并起草修改,开发者保留设计和审查决策。

较新代理产品正成为运营系统,但证据仍然有限较早机器人策略的提升取决于能否用好稀缺经验和动作信号