品玩

科技创新者的每日必读

打开APP
关闭

百度智能云宣布千帆大模型平台实现2.0升级

2023年9月5日

品玩9月5日讯,在今天的2023百度云智大会上,百度智能云宣布千帆大模型平台实现2.0全面升级。

据悉,千帆大模型平台月活企业数已近万家,覆盖金融、制造、能源、政务、交通等行业的400多个业务场景。本次新升级中文增强,提升大模型中文理解和生成能力,例如LIama2的国外大模型,也可实现中文对话好的效果。同时还提升训练和推理性能,训练LlaMA 2的总体吞吐可以提升1/4,推理甚至能提升3倍。在数据集方面,预置41个有行业特色的数据集,点击几个按钮即可完成微调。

今年8月边度宣布千帆大模型平台已完成新一轮升级,全面接入LLaMA2全系列、ChatGLM2、RWKV、MPT、Dolly、OpenLLaMA、Falcon等33个大模型,成为国内拥有大模型最多的平台。

工具链变得更丰富和更全面,也更加轻量化、敏捷化。过去客户验证大模型的效果至少需要一周时间,现在基于一站式的工具链,只需一天就可以跑通一个模型并看到效果。值得关注的是,千帆平台的工具链里内置了103套高质量的prompt模版,还有自动化prompt工程能力,用户做起来会更方便、更轻松。

算力服务升级后,万卡集群训练大模型时,有效训练时间达到95%以上,极大的降低了时间成本,加速比可以达到 95%,充分释放集群的整体算力。千帆平台还兼容国内外主流芯片和操作系统,企业客户的算法可以以最小的修改成本在这些硬件上运行。

千帆平台全面升级模型安全、内容安全和数据安全保障能力。千帆平台为不同模型厂商设计了可信的专用隔离域,重点保护模型资产安全。在内容安全上预置安全模块,可以有效控制输入和输出的安全风险。在数据安全方面,千帆平台提供从模型、数据到日志的全链路加密,为模型厂商和用户提供可信任的执行环境。

取消 发布

下载品玩App,比99.9%的人更先知道关于「百度智能云」的新故事

下载品玩App

比99.9%的人更先知道关于「百度智能云」的新故事

iOS版本 Android版本
立即下载
AI阅读助手
以下有两点提示,请您注意:
1. 请避免输入违反公序良俗、不安全或敏感的内容,模型可能无法回答不合适的问题。
2. 我们致力于提供高质量的大模型问答服务,但无法保证回答的准确性、时效性、全面性或适用性。在使用本服务时,您需要自行判断并承担风险;
感谢您的理解与配合
该功能目前正处于内测阶段,尚未对所有用户开放。如果您想快人一步体验产品的新功能,欢迎点击下面的按钮申请参与内测 申请内测