国际权威咨询机构IDC近日发布《中国智算服务市场(2024上半年)跟踪》报告。报告显示,2024年上半年,商汤科技作为国内领先的智算服务商,以13.3%的市场份额稳居GenAI IaaS市场Top3,位列GenAI IaaS领域第一梯队。

Gen AI驱动,商汤站稳智算市场头部阵营

2024上半年中国智算服务整体市场同比增长79.6%,市场规模达到146.1亿元人民币。其中,GenAI IaaS市场高速增长,同比增长203.6%,市场规模达52.0亿元人民币,占比整体市场35.6%。

报告指出:“2024上半年,GenAI IaaS市场Top 5服务商市场份额合计占比达67.3%。”面对竞争日益激烈的Gen AI市场,商汤作为最受瞩目的新势力服务商表现抢眼,商汤大装置凭借丰沛的算力和卓越的超大集群运维保障能力,获得行业一致认可,市场地位稳固。

技术领先,是用户提升效能的最佳选择

截至2024年9月,商汤大装置总算力规模突破20000P,上线GPU数量超54000张,达到了95%以上的多元异构混训效能,可满足万亿参数大模型训推需求,同时实现了分钟级容错,确保30天以上大规模训练不间断。  

商汤大装置还通过引入创新技术,提升硬件性能和资源利用率,成为了用户的极致性价比选择。通过实现训推一体化,商汤打通了从训练到推理的全链路,为开发者和企业提供一站式的高效解决方案,最大化硬件性能,显著提升开发和部署效率。此外,应用算电协同技术,商汤在降低PUE的同时还帮助用户提升算效,提升资源利用率。

商汤“日日新SenseNova”大模型体系也在“大装置+大模型”的深度协同下快速迭代,目前已实现跨模态的深度融合。最近,日日新多模态大模型在OpenCompass多模态评测中领先GPT-4o、Claude 3.5 Sonnet等排名第一。

持续增长,有效推动应用落地与产业升级

根据IDC预测,中国智算服务市场2023-2028年复合增长率达56.2%,2028年整体市场规模达1825亿人民币。GenAI IaaS市场将以79.0%的复合增长率增长,预计2028年市场规模占整体市场比例达50%。

智算服务的高速增长,将有力推动大模型在各行业的应用增长和落地实践。商汤大装置正助力各行各业客户实现降本增效和产业升级,例如,助力某电力客户优化电力生产和运维流程,降低生产成本和运维难度、提升电网运行效率和稳定性,促进了新能源的集成和消纳。

目前,商汤大装置支持外部客户进行大模型训练和应用部署,其中国内主流大模型客户已超过30家。未来,商汤大装置将深耕智算服务市场,持续为行业输出高效、易用、普惠的智算服务,推动各行各业步入Gen AI繁荣发展的崭新纪元,共同开创人工智能的美好未来。