英特尔:为开源多模态视频模型 MiniMax H3 提供 Day 0 支持,实现基于多卡 GPU 的部署方案
最新 8 月 3 日消息,英特尔今日宣布,为新一代开源多模态视频模型 MiniMax H3 提供 Day 0 首发支持。
据介绍,英特尔锐炫 Pro B70 第一时间完成对 MiniMax H3 的适配,英特尔团队实现了一种基于多卡 GPU 的部署方案。该方案采用 Encoder 8 卡张量并行(8TP)、DiT 8 卡 USP(Ulysses Sequence Parallel,并结合 Layer-wise Offloading),以及 VAE 部署于 B70 GPU 的整体架构,实现了视频生成全流程的 GPU 加速。
其中,Encoder 采用 8 卡张量并行完成文本编码;作为推理过程中计算量最大的模块,DiT 采用 8 卡 USP 并结合 Layer-wise Offloading 技术,使模型参数按层动态加载到 GPU,在突破单卡显存限制、降低模型常驻显存需求的同时,支持更大规模 DiT 模型的部署;VAE 则部署于 B70 GPU 上完成最终的视频解码。该方案兼顾了模型容量与计算效率,为大规模视频生成模型提供了更具扩展性的部署方式。
在此基础上,团队进一步结合张量并行(Tensor Parallel,TP)与 USP 的优势,开发了 2TP×4USP 的混合并行方案。相较于纯 8 卡 USP,该方案将 USP 并行度由 8 降至 4,并引入 2 路张量并行对计算进行协同加速,在保持模型扩展能力的同时,减少 USP 带来的通信开销,实现计算负载与通信开销之间更优的平衡,从而进一步提升整体推理性能。
最新获悉,团队还结合 llm-scaler-omni 项目的 XPU Kernel 优化,对矩阵乘法、注意力等关键算子进行了持续优化,进一步提升 GPU 的计算效率,持续降低端到端推理时延,取得了良好的优化效果。
相关阅读:
《通用视频模型 MiniMax H3 正式开源,支持多模态上下文、2K 分辨率》
《英特尔:为开源多模态视频模型 MiniMax H3 提供 Day 0 支持,实现基于多卡 GPU 的部署方案》转载自互联网,如有侵权,联系我们删除,QQ:369-8522。
相关图文
-
原生 3DoF 防抖不易晕:雷鸟 AR 眼镜 GT 京东 1391 元新低,配镜后也支持 7 天免费试用
雷鸟 GT 系列 AR 眼镜产品今年 5 月上市,官方定价 1899 元。... -
小鹏 IRON 人形机器人能力升级:每 0.2 秒重新推理一次,可预测 6 秒内动作变化
小鹏第二代 VLA 大模型升级时序理解与未来行为预测能力,并端侧落地到 IRON 人形机器人。IRON 可灵活应对握手、碰拳、击掌中的临时变招,实现看到与动作的实时闭环,计划 2026 年底量产、2027 年上半年交付。#小鹏IRON# #人形机器人#... -
小米米家热敷坐姿垫开启众筹:支持久坐提醒、三挡恒温,179 元
该坐姿垫采用人体工学四位一体设计,配备红外感应久坐提醒与 NTC 三挡智能温控。支持无线 / 有线切换,尼龙一体成型加记忆棉,通过 5 万次受压测试,现已在小米有品众筹。#小米米家# #热敷坐姿垫#... -
小米米家床头灯 3 上架:升级全光谱自然光,众筹价 269 元
米家床头灯 3 主打柔光淡彩与全光谱自然光,太阳光谱拟合度 GFC>0.98,Ra90 显色,支持 1600 万色彩与 11 款动态灯效,并接入澎湃智联。#米家床头灯3# #小米智能家居#... -
众筹价 1699 元,小米米家金属旅行箱开启众筹
箱体采用 6 系铝镁硅合金框体与 5 系铝镁合金箱壳,无铆钉工艺,整箱约 150 道工序。静音万向轮获 SGS 认证,行走 72 公里轮皮磨损小于 2 毫米,噪音低于 43 分贝。37 升容量,配 TSA 密码锁,支持四挡拉杆调节。#小米米家金属旅行箱#...












