品玩

科技创新者的每日必读

打开APP
关闭

Deepseek 宣布开源代码库,为 Hopper GPU 优化的高效 MLA 解码内核 FlashMLA

4小时前

品玩2月24日讯,DeepSeek 今天宣布开始逐步开源多个代码库,首先开源的是一个针对针对 Hopper GPU 优化的高效 MLA 解码内核FlashMLA。

DeepSeek 表示,该代码库针对可变长度序列进行了优化,目前已投入生产。它专门针对多层注意力机制进行了优化,能够加速 LLM 的解码过程,从而提高模型的响应速度和吞吐量。

DeepSeek 表示,FlashMLA 可在 H800 芯片上实现最高3000GB/S的带宽和580 TFLOPS 的算力。

取消 发布

下载品玩App,比99.9%的人更先知道关于「DEEPseek」的新故事

下载品玩App

比99.9%的人更先知道关于「DEEPseek」的新故事

iOS版本 Android版本
立即下载
AI阅读助手
以下有两点提示,请您注意:
1. 请避免输入违反公序良俗、不安全或敏感的内容,模型可能无法回答不合适的问题。
2. 我们致力于提供高质量的大模型问答服务,但无法保证回答的准确性、时效性、全面性或适用性。在使用本服务时,您需要自行判断并承担风险;
感谢您的理解与配合
该功能目前正处于内测阶段,尚未对所有用户开放。如果您想快人一步体验产品的新功能,欢迎点击下面的按钮申请参与内测 申请内测