OpenAI 官方发布 GPT-5.6 构建者指南

OpenAI 于 8 月 13 日发布《GPT-5.6 构建者指南》,从模型选择、推理档位调整到推理保留、原生多智能体和程序化工具调用等新机制,系统说明如何以更低成本搭建更强的智能体。

OpenAI 在 8 月 13 日发布了《GPT-5.6 构建者指南》(The builder’s guide to GPT‑5.6),面向正在生产环境中搭建智能体的开发者与初创团队,系统梳理了 GPT-5.6 家族在模型选择、推理强度以及运行方式上的优化路径。官方对这份指南的定位很明确:GPT-5.6 让「前沿水平的智能体性能」变得明显更便宜,同时也向前推进了能力边界。

OpenAI 官方发布 GPT-5.6 构建者指南主题相关图片
图片来自:新浪财经

指南的核心不是单点技术参数,而是一套成本与性能的调度思路。OpenAI 认为,开发者应当先理解 GPT-5.6 的三个模型档位——旗舰的 Sol、平衡的 Terra 和低成本、面向高吞吐的 Luna——再结合任务难度、失败代价、延迟要求来决定「哪一步该用哪个模型」,而不是把所有任务都压在旗舰模型上。

一个被广泛引用的对比来自 BrowseComp 检索基准。OpenAI 给出的数据显示,三个月前 GPT-5.5 在 Extra High 推理档位下得分 84.36%,总成本约 33.27 美元;而 GPT-5.6 家族中最小、最便宜的 Luna 在 Extra High 档位下得分 84.04%,成本仅约 1.33 美元,性能几乎持平,成本差距约 25 倍。OpenAI 还提到,发布后价格已进一步下调。类似的结论也出现在 Agents’ Last Exam 上:在保持测试框架不变的情况下,GPT-5.6 Sol 在 low 推理档位的表现已经超过 GPT-5.5 在 high 档位的表现。

这意味着过去「长期任务必须上旗舰、开最高推理」的经验正在失效。指南指出,借助更多的 test-time compute,Luna 和 Terra 常常能在显著更低的成本下接近 GPT-5.4、GPT-5.5 的表现,尤其适合大批量负载、对延迟敏感的交互,以及智能体工作流中反复出现的提取、分类、检索判断等步骤。官方举了一个法律科技场景:如果一家初创公司需要在智能体分析前解析手写备忘录,提取环节可以改用 Terra 或 Luna,而不必全程调用旗舰模型。

除了模型选择,指南花了大量篇幅介绍 Responses API 新增的原生能力。OpenAI 表示,GPT-5.6 是端到端地配合三项互补的架构改进训练的:

  • 复用已完成的工作:通过持久化推理(persisted reasoning)让推理状态跨轮次保留,并用原生压缩(compaction)压缩长对话,让模型在更长任务周期内保持连贯,而不必反复重建上下文。
  • 在合适的场景做并行分解:通过原生多智能体编排(multi-agent orchestration)协调多个智能体在并行工作流中分工,更快完成复杂任务。
  • 把确定性工作交给代码:通过程序化工具调用(Programmatic Tool Calling)在模型上下文窗口之外完成过滤、聚合与编排,把 token 留给真正需要判断的部分。

这三项能力的组合效果,官方用 ARC-AGI-3 的例子做了说明:GPT-5.6 Sol 在标准测试框架下得分为 13.3%,启用推理保留和压缩后升至 38.3%,输出 token 却减少到约六分之一——模型本身没有变化,改变的是运行它的框架。

其中,程序化工具调用针对的是一类常见但低效的工作:模型往往要先在上下文里读取大量中间结果,再逐一判断下一步。指南用一个例子说明问题——当智能体需要检索 100 份文件、按日期筛选并识别相关交易时,它不应该对每一个中间结果都进行推理。程序化工具调用允许 GPT-5.6 编写 JavaScript 来编排工具、并行执行独立调用,并在上下文之外处理输出,只把需要判断的压缩结果送回模型。据指南引述,金融研究公司 Rogo 在质量持平的情况下,输入 token 减少了约 21%。

原生多智能体则适用于可明确拆分的并行任务:主智能体负责编排并向下属智能体分配任务,子智能体并行推进,最后把结果交回主智能体汇总。指南引用了 Obvious 联合创始人 Jon Bell 的说法,GPT-5.6 一次处理六份规格说明时没有出现质量崩塌;Quadrillion 创始人 E Chi 则表示,GPT-5.6 Sol 相较 GPT-5.5 有明显提升,完成速度几乎快过其测试的所有其他模型。

缓存机制也在 GPT-5.6 上得到调整。OpenAI 表示,全家族提示词缓存的 TTL 已延长到至少 30 分钟,并且可以在上下文窗口内设置确定性的缓存断点;合适的 prompt_cache_key 还能提高请求落在同一推理引擎上的概率,从而降低延迟。对于长期运行的智能体,这些改动直接影响真实账单。

指南还传递了一个更朴素的方法论:模型选择正在变成资源调度,而不是「永远用最强」。官方建议在迁移时先保留原有推理档位跑一轮测试,再降一级推理强度对比;而第三方评测也印证了「档位越高未必越好」。软件公司 Superconductor 在自家 Rails 代码库上的测试显示,GPT-5.6 Sol High 的质量得分约 77%,低于另一系统的约 83%,但前者通常 5 到 6 分钟完成任务,后者需要 23 到 25 分钟,最终团队选择接受约 6 个百分点的质量差距,换取约四倍的速度。A-CODE-LLM 用 10 项软件开发任务测试 GPT-5.6 家族时,也出现了 Luna 基础版在某些项目上得分超过更贵配置的情况。

整体来看,这份构建者指南把成本优化的重点从「选一个便宜的模型」推进到了「按任务调配模型、推理档位与运行方式」。对开发者而言,最实用的起点可能是:挑一个调用最频繁或花费最高的任务,保留现有配置跑一版,再降一档模型或推理档位跑一版,把成功率、总成本、耗时、重试次数和人工复核时间放在一起比较,才能判断便宜的选择有没有把工作转移给人。