OpenAI 部署 GPT-5.6 优化模型自身推理性能,端到端服务成本最多降低 20%
最新 7 月 30 日消息,OpenAI 公司昨日(7 月 29 日)发布博文,宣布通过 GPT-5.6 Sol 模型,来优化 GPT-5.6 系列模型本身 AI 推理链路,端到端服务成本最多降低 20%。
OpenAI 于 7 月 9 日推出其最强 AI 模型 GPT-5.6 系列,在后续的架构优化过程中,官方团队利用 GPT-5.6 Sol 模型来优化自身运行效率,降低计算成本、提高 GPU 利用效率。
OpenAI 公司称,系统会按地域、可用容量和加速器类型分配请求;集群内部还会参考负载、上下文长度、缓存可用性等因素分发任务。GPT‑5.6 Sol 通过 Codex 分析生产流量、识别负载失衡来源、测试路由策略并调整启发式规则。
在模型前向传播环节,GPT‑5.6 Sol 识别可预计算、可避免或可并行的工作,并通过 Codex 自主改写和优化生产环境中的 GPU 内核。最新附上相关截图如下:

团队让 GPT-5.6 Sol 模型学习 Triton 和 Gluon 两种编程语言,让模型据此优化推理引擎内核,使生产环境 GPU 内核带来的端到端服务成本最多降低 20%。

OpenAI 还使用开源工具 FpSan(浮点数清理器)验证 GPT‑5.6 Sol 编写内核的正确性。
OpenAI 还让 GPT-5.6 Sol 优化推测性解码(speculative decoding)。这项推理加速技术由较小的草稿模型预测下一个 token,再由主模型验证或修正预测结果。OpenAI 在 2026 年 7 月 29 日的公开帖文中称,改进后 token 生成效率提升超过 15%。
《OpenAI 部署 GPT-5.6 优化模型自身推理性能,端到端服务成本最多降低 20%》转载自互联网,如有侵权,联系我们删除,QQ:369-8522。
相关图文
-
原生 3DoF 防抖不易晕:雷鸟 AR 眼镜 GT 京东 1391 元新低,配镜后也支持 7 天免费试用
雷鸟 GT 系列 AR 眼镜产品今年 5 月上市,官方定价 1899 元。... -
小鹏 IRON 人形机器人能力升级:每 0.2 秒重新推理一次,可预测 6 秒内动作变化
小鹏第二代 VLA 大模型升级时序理解与未来行为预测能力,并端侧落地到 IRON 人形机器人。IRON 可灵活应对握手、碰拳、击掌中的临时变招,实现看到与动作的实时闭环,计划 2026 年底量产、2027 年上半年交付。#小鹏IRON# #人形机器人#... -
小米米家热敷坐姿垫开启众筹:支持久坐提醒、三挡恒温,179 元
该坐姿垫采用人体工学四位一体设计,配备红外感应久坐提醒与 NTC 三挡智能温控。支持无线 / 有线切换,尼龙一体成型加记忆棉,通过 5 万次受压测试,现已在小米有品众筹。#小米米家# #热敷坐姿垫#... -
小米米家床头灯 3 上架:升级全光谱自然光,众筹价 269 元
米家床头灯 3 主打柔光淡彩与全光谱自然光,太阳光谱拟合度 GFC>0.98,Ra90 显色,支持 1600 万色彩与 11 款动态灯效,并接入澎湃智联。#米家床头灯3# #小米智能家居#... -
众筹价 1699 元,小米米家金属旅行箱开启众筹
箱体采用 6 系铝镁硅合金框体与 5 系铝镁合金箱壳,无铆钉工艺,整箱约 150 道工序。静音万向轮获 SGS 认证,行走 72 公里轮皮磨损小于 2 毫米,噪音低于 43 分贝。37 升容量,配 TSA 密码锁,支持四挡拉杆调节。#小米米家金属旅行箱#...












