品玩

科技创新者的每日必读

打开APP
关闭

Nous Research推出优化器DisTrO,降低AI 训练门槛

2024年9月11日

品玩9月11日讯,据Nous Research 官方消息,该团队现已推出一款名为 DisTrO的新优化器,可帮助降低大模型的门槛。

DisTrO 的神奇之处在于,它能够显著减少在训练 AI 模型时,多个图形处理单元(GPU)之间需要传输的信息量。通过这一创新,强大的 AI 模型可以在普通的网络条件下进行训练,甚至让全球各地的个人或机构联手合作,共同开发 AI 技术。

根据 Nous Research 的技术论文,DisTrO 的效率提升惊人,使用它的训练效率比一种常见的算法 ——All-Reduce 提高了857倍,同时每一步训练所需传输的信息量也从74.4GB 降低到了86.8MB。这样的提升,不仅让训练变得更快、更便宜,还意味着更多的人有机会参与到这个领域中来。

取消 发布

下载品玩App,比99.9%的人更先知道关于「大模型」的新故事

下载品玩App

比99.9%的人更先知道关于「大模型」的新故事

iOS版本 Android版本
立即下载
AI阅读助手
以下有两点提示,请您注意:
1. 请避免输入违反公序良俗、不安全或敏感的内容,模型可能无法回答不合适的问题。
2. 我们致力于提供高质量的大模型问答服务,但无法保证回答的准确性、时效性、全面性或适用性。在使用本服务时,您需要自行判断并承担风险;
感谢您的理解与配合
该功能目前正处于内测阶段,尚未对所有用户开放。如果您想快人一步体验产品的新功能,欢迎点击下面的按钮申请参与内测 申请内测