品玩

科技创新者的每日必读

打开APP
关闭

DeepSeek 公布推理引擎开源路径

4月15日

品玩4月15日讯,据爱范儿报道,DeepSeek 悄悄在自己的 open-infra-index 库中发布了一份题为「开源 DeepSeek 推理引擎的路径」的文档,宣布将开源自己的内部推理引擎(internal inference engine),并与开源社区建立更广泛的合作。

DeepSeek 在文中致谢了 PyTorch 和 vLLM,两者分别在 DeepSeek 模型的训练框架以及推理引擎起到重要作用。DeepSeek 还表示「希望尽己所能回馈社区」,但发现了「代码库差异」「基础设施依赖」「维护宽带有限」等挑战,而 DeepSeek 也提出了更可持续的替代方案 —— 与现有的开源项目合作:

提取出分立的功能:将可复用的组件模块化并作为独立的软件库贡献出来;

共享优化:直接贡献设计改进和实现细节。

取消 发布

下载品玩App,比99.9%的人更先知道关于「DEEPseek」的新故事

下载品玩App

比99.9%的人更先知道关于「DEEPseek」的新故事

iOS版本 Android版本
立即下载
AI阅读助手
以下有两点提示,请您注意:
1. 请避免输入违反公序良俗、不安全或敏感的内容,模型可能无法回答不合适的问题。
2. 我们致力于提供高质量的大模型问答服务,但无法保证回答的准确性、时效性、全面性或适用性。在使用本服务时,您需要自行判断并承担风险;
感谢您的理解与配合
该功能目前正处于内测阶段,尚未对所有用户开放。如果您想快人一步体验产品的新功能,欢迎点击下面的按钮申请参与内测 申请内测