品玩4月10日讯,英特尔官方消息,在昨天举办的Intel Vision 2024客户与合作伙伴大会上,,英特尔正式发布了Intel Gaudi 3 AI 芯片。
Intel Gaudi 3 AI 芯片通过以太网通用标准连接多达数万个加速器,为 AI 系统提供动力。与上一代产品相比,Intel Gaudi 3 承诺将 BF16 的人工智能计算能力提高 4 倍,内存带宽提高 1.5 倍。该加速器将为希望大规模部署 GenAI 的全球企业带来人工智能训练和推理方面的重大飞跃。
与 Nvidia H100 相比,Intel Gaudi 3 AI 芯片在具有 7B 和 13B 参数的 Llama2 模型以及具有 175B 参数的 GPT-3 模型中的训练时间预计平均缩短 50%3。此外,在 Llama 7B 和 70B 参数模型以及 Falcon 180B 参数模型中,英特尔高迪 3 加速器的推理吞吐量预计将比 H100 平均高出 50%,推理能效平均高出 40%。该芯片将于 2024 年第二季度面向原始设备制造商(包括戴尔科技、惠普企业、联想和超微)推出。
0 条评论
请「登录」后评论