首页 > 新闻 > 科技 > 正文

DeepSeek宣布开源DeepGEMM 具有细粒度缩放功能

2025-02-26 18:06:10
字体:
来源:转载
供稿:网友
2月26日,Deepseek于开源周第三天宣布开源DeepGEMM。DeepGEMM 是一个专为简洁高效的 FP8 通用矩阵乘法(GEMM)设计的库,具有细粒度缩放功能,如 DeepSeek-V3 中所提出。它支持普通和混合专家(MoE)分组的 GEMM。

该库采用 CUDA 编写,在安装过程中无需编译,通过使用轻量级的即时编译(JIT)模块在运行时编译所有内核。FP8GEMM库,为V3/R1训练和推理提供支持。
发表评论 共有条评论
用户名: 密码:
验证码: 匿名发表