月之暗面开源 Kimi K3 模型,2.8 万亿参数
最新 7 月 27 日消息,月之暗面官方今晚正式开源 Kimi K3 模型。官方发布了 Kimi K3 的模型权重、技术报告,并开源支撑 Kimi K3 模型训练的关键 Infra 技术:MoonEP、FlashKDA 和 AgentEnv。
Kimi K3 是一个 2.8 万亿参数模型,基于 KDA 混合线性注意力机制(Kimi Delta Attention)和注意力残差(Attention Residuals)技术构建,原生支持视觉理解,并拥有 100 万 token 上下文窗口。
官方表示,Kimi K3 是首个达到 2.8 万亿参数规模的开源模型,在过去 12 个月中的 9 个月里,Kimi 模型都保持着开源模型的规模上限。

Kimi 还进一步扩大了 Mixture of Experts(MoE)的稀疏度:结合 Stable LatentMoE 框架后,模型可以在 896 个专家中高效激活 16 个。再加上训练方法和数据配方的优化,这些结构性改进让 Kimi K3 相比 K2 的整体扩展效率提升约 2.5 倍,能更有效地把算力转化为能力。

据介绍,Kimi K3 具备很强的长程编码能力。在极少人工监督的情况下,它可以持续完成长时间工程任务,理解和处理大型代码库,并协调使用终端工具;Kimi K3 也擅长结合软件工程与视觉推理的任务。它能够利用截图和视觉反馈,优化游戏开发、前端和 CAD 等场景。
官方此前表示,虽然 Kimi K3 的整体表现仍落后于最强的闭源模型 Claude Fable 5 和 GPT-5.6 Sol,但在整套评测中展现出前沿水平的能力,并稳定超过了其他所有模型。


官方还公布了支撑 Kimi K3 训练的三项 Infra 技术:MoonEP、FlashKDA 和 AgentEnv,覆盖从高性能通信、高性能算子到分布式 RL 环境的关键链路。其中 FlashKDA 此前已开源,MoonEP 和 AgentEnv 则随本次发布正式开源。
最新附开源链接:
Hugging Face:https://huggingface.co/moonshotai/Kimi-K3
GitHub:https://github.com/MoonshotAI/Kimi-K3
《月之暗面开源 Kimi K3 模型,2.8 万亿参数》转载自互联网,如有侵权,联系我们删除,QQ:369-8522。
相关图文
-
原生 3DoF 防抖不易晕:雷鸟 AR 眼镜 GT 京东 1391 元新低,配镜后也支持 7 天免费试用
雷鸟 GT 系列 AR 眼镜产品今年 5 月上市,官方定价 1899 元。... -
小鹏 IRON 人形机器人能力升级:每 0.2 秒重新推理一次,可预测 6 秒内动作变化
小鹏第二代 VLA 大模型升级时序理解与未来行为预测能力,并端侧落地到 IRON 人形机器人。IRON 可灵活应对握手、碰拳、击掌中的临时变招,实现看到与动作的实时闭环,计划 2026 年底量产、2027 年上半年交付。#小鹏IRON# #人形机器人#... -
小米米家热敷坐姿垫开启众筹:支持久坐提醒、三挡恒温,179 元
该坐姿垫采用人体工学四位一体设计,配备红外感应久坐提醒与 NTC 三挡智能温控。支持无线 / 有线切换,尼龙一体成型加记忆棉,通过 5 万次受压测试,现已在小米有品众筹。#小米米家# #热敷坐姿垫#... -
小米米家床头灯 3 上架:升级全光谱自然光,众筹价 269 元
米家床头灯 3 主打柔光淡彩与全光谱自然光,太阳光谱拟合度 GFC>0.98,Ra90 显色,支持 1600 万色彩与 11 款动态灯效,并接入澎湃智联。#米家床头灯3# #小米智能家居#... -
众筹价 1699 元,小米米家金属旅行箱开启众筹
箱体采用 6 系铝镁硅合金框体与 5 系铝镁合金箱壳,无铆钉工艺,整箱约 150 道工序。静音万向轮获 SGS 认证,行走 72 公里轮皮磨损小于 2 毫米,噪音低于 43 分贝。37 升容量,配 TSA 密码锁,支持四挡拉杆调节。#小米米家金属旅行箱#...












