Qwen3.8-27B开源即用!昇腾0Day适配:270亿参数推理效率拉满
最新8月15日消息,阿里巴巴旗下千问大模型团队于8月14日晚间正式开源Qwen3.8-27B模型。昇腾在模型开源后同步完成0Day适配,通过vLLM-Ascend开源推理引擎实现Qwen3.8-27B在Atlas 800 A3、Atlas 850E超节点上的高效推理部署。
Qwen3.8-27B是一款原生多模态稠密(Dense)模型,参数量270亿。模型原生支持262K tokens上下文长度,通过YaRN技术可外推至1M tokens。
在架构上,Qwen3.8-27B采用混合线性注意力设计,64层中48层为Gated DeltaNet线性注意力、16层为Full Attention。这种设计打破了长序列下O(n²)的计算复杂度,兼顾了长序列处理效率与上下文建模能力。
在性能表现上,Qwen3.8-27B在编程和办公场景中显著超越前代Qwen3.6-27B,整体水平优于Qwen3.7-Plus。
该模型在Agentic terminal coding测试中得分73.0(前代63.4),在SWE-bench Pro测试中得分61.7(前代53.5)。模型新增了reasoning_effort功能,可根据任务难度动态调节思考深度以节省计算资源。
针对Qwen3.8-27B的结构特点,昇腾采用多项关键技术进行优化。在Prefill阶段采用GDN融合算子,以Chunk方式高效处理长序列,减少中间数据搬运和算子调度开销。
vLLM-Ascend支持W8A8量化部署,将权重与激活值从BF16量化至8-bit,充分发挥昇腾NPU的INT8/MXFP8算力。
同时利用Qwen3.8的MTP投机推理能力,通过MTP模块预测后续Token、主模型并行校验,减少主模型调用次数。Decode阶段支持将计算捕获为设备侧执行图(ACLGraph),消除重复调度开销。
目前Qwen3.8-27B已在Hugging Face和魔搭社区(ModelScope)同步上线。昇腾已提供基于该模型的部署指导,用户可通过vLLM-Ascend开源推理引擎快速完成推理部署。

《Qwen3.8-27B开源即用!昇腾0Day适配:270亿参数推理效率拉满》转载自互联网,如有侵权,联系我们删除,QQ:369-8522。
相关图文
-
美光扔出王炸!DDR6带宽暴涨2倍 400层NAND量产
快科技10月22日消息,据报道,美光近日在2026年OCP峰会上公布下一代存储技术路线图,覆盖DDR6、LPDDR6、vHBM及G11 NAND四大方向,多项指标较上代实现翻倍级提升。DDR6的带宽预计达到DDR5的两... -
内存越堆越烫!SK海力士把散热件塞进夹层:热阻降低30%
快科技10月22日消息,SK海力士的下一代高带宽内存(HBM)定名iHBM,思路是把散热结构直接做进内存封装内部,不再只靠外置的散热器和冷板把热带走。HBM难散热是结构决定的,多层DRAM(动态随机... -
DIY寒冬将至!2027年PC内存更难买也更贵:产能全被AI吃了
快科技10月22日消息,据集邦咨询最新研究报告,2027年PC内存供应可能进一步收缩,原因是存储厂商持续将产能向AI加速器所需的高带宽存储器及数据中心其他存储产品倾斜。这或将推高面向消费者的... -
突发!美光桃园工厂刚刚宣布今起罢工24小时:内存恐再涨价
快科技10月22日消息,据报道,美光在中国台湾地区的劳资协商出现分化:台中工会昨日与公司达成协议并撤回调解,桃园工会则因利润分享方案未获具体回应,于今日上午9点启动24小时罢工。与台中... -
你还在纠结32GB还是64GB内存:单条1TB DDR6已经公布!
快科技10月22日消息,美光在2026年OCP峰会上公布了下一代存储技术路线图,涉及DDR6、LPDDR6、HBM与G11 NAND四条产品线。其中DDR6被定位为面向高可靠性服务器市场,美光称其带宽将达到DDR5的两...












