摩尔线程开源高性能线性代数模板库 MUTLASS,加速基于国产 GPU 的算子开发以及算法创新
2024-11-13 07:05:31业界动态 IT之家 沛霖(实习)
摩尔线程宣布开源高性能线性代数模板库 MUTLASS,以便开发者能够更高效针对摩尔线程全功能 GPU 的 MUSA Core 及 Tensor Core 等单元进行编程。
感谢最新网友 Thorn_Flower 的线索投递!
最新 11 月 12 日消息,摩尔线程宣布开源高性能线性代数模板库 MUTLASS,以便开发者能够更高效针对摩尔线程全功能 GPU 的 MUSA Core 及 Tensor Core 等单元进行编程,加速基于国产 GPU 的算子开发以及算法创新。
作为摩尔线程专为 MUSA 架构优化的高性能计算库,MUTLASS(MUSA Templates for Linear Algebra Subroutines)是基于开源模板库 CUTLASS 进行的 MUSA 适配和定制化开发、优化。
针对矩阵乘法及相关变种,MUTLASS 提供了一系列高性能的 C++ 模板组件,并采用了与 muDNN 库类似的分层分解及数据搬运策略,以确保性能的充分发挥。
在本次开源的版本中,摩尔线程适配了 CuTe 后端库,为其增加了第三代 MUSA 架构的 MMA 计算原语,支持 TF32 / FP16 / BF16 / INT8 等多种数据精度,并以此为基础,初步实现了矩阵乘法、默认实例库、性能测试器及相关工具包的支持。
最新附 MUTLASS 开源地址:https://github.com/MooreThreads/mutlass
赞一个! ()
相关文章
- 光明村全村给刘强东写感谢信:你的恩情,我们都记在心里
- 京东 App 大改版灰度测试:一级入口重新分布,透露三个业
- 全球首列商业化运营碳纤维地铁列车“CETROVO 1.0 碳星
- 市场监管总局:着力整治利用平台规则破坏公平竞争、侵害
- 铁路 12306 客服回应“5 天 3 崩”:近期是售票高峰,系统
- 市场监管总局:针对社会集中反映的“仅退款”问题约谈主
- 字节跳动对西藏日喀则地震灾区追加捐赠 1500 万元,累计
- Linux 基金会提出“Chromium 浏览器支持者”计划,谷歌
- 始料未及:AMD 高管暗讽酷睿 Ultra 处理器,称 R7 9800X3D
- 顺丰航空开通 2 条货运航线驰援西藏抗震救灾,无锡 / 石