品玩7月11日讯,英特尔AI产品战略暨Gaudi2新品发布会今日在京举行。会上,英特尔正式于中国市场推出第二代Gaudi深度学习加速器——Habana® Gaudi®2。
作为英特尔从云到端产品组合的重要组成,Gaudi2致力于以领先的性价比优势,加速AI训练及推理,从而成为大规模部署AI的更优解。英特尔表示,Gaudi2深度学习加速器暨Gaudi2夹层卡HL-225B,以第一代Gaudi高性能架构为基础,以多方位性能与能效比提升,加速高性能大语言模型运行。
Gaudi2深度学习加速器具备24个可编程Tensor处理器核心、21个Gbps(RoCEv2)以太网接口、96GB HBM2E内存容量,2.4TB/秒的总内存带宽以及 48MB片上SRAM,同时该加速器集成多媒体处理引擎。
Gaudi2加速器的出色性能在6月公布的MLCommons MLPerf 基准测试中得到了充分认证,其在GPT-3模型、计算机视觉模型ResNet-50(使用8个加速器)、Unet3D(使用8个加速器),以及自然语言处理模型BERT(使用8个和64个加速器)上均取得了优异的训练结果。此外,Gaudi2可为大规模的多模态和语言模型提供出色的推理性能。
0 条评论
请「登录」后评论