中证网
返回首页

DeepSeek开源昇腾基础组件

王寅 中证金牛座

据DeepSeek微信公众号9月30日消息,公司正式开源面向华为昇腾算力平台的基础设施组件,涵盖TileLang高级语言编译工具、计算库、分布式通信库。所有组件与此前面向英伟达平台的开源组件一一对应。

消息称,本次开源的TileLang昇腾版本,对昇腾Ascend C底层指令进行封装、提供高级语言的编程方式、同时不损失硬件性能。这正是TileLang的设计初衷。目前,DeepSeek训练中用到的每一个TileLang算子,在昇腾上都有对应的高性能实现。TileLang昇腾版本作为一个开源工作,希望能对更多AI芯片建立高可用软件生态起到示范作用。

本次开源还包括昇腾平台核心计算与通信组件,为不同使用场景提供可复用的基础能力:DeepGEMM加速通用矩阵运算;DeepEP提供高效的大规模跨设备通信;TileKernels提供数据处理所需的常规向量计算和访存算子;FlashMLA提供稀疏注意力算子,提升长上下文处理效率;DeepSelect则实现了高效的数据筛选。在多项关键测试用例中,上述组件的计算与通信性能已接近硬件上限。

中证网声明:凡本网注明“来源:中国证券报·中证网”的所有作品,版权均属于中国证券报、中证网。中国证券报·中证网与作品作者联合声明,任何组织未经中国证券报、中证网以及作者书面授权不得转载、摘编或利用其它方式使用上述作品。
中证金牛座
更多精彩内容,请打开APP阅读
立即打开