登陆热线邮箱 设为首页

将用于自动驾驶!腾讯云发布国内“最牛”大模型算力集群_每日快报

2023-04-14 14:46:43来源:羊城派栏目:数码


(资料图片仅供参考)

将用于自动驾驶!腾讯云发布国内“最牛”大模型算力集群

文/羊城晚报全媒体记者 王丹阳图/受访者提供

国内性能最强的大模型计算集群,来了!

4月14日,腾讯云正式发布新一代HCC(High-Performance Computing Cluster)高性能计算集群。该集群采用腾讯云星星海自研服务器,搭载英伟达最新代次H800 GPU,服务器之间采用业界最高的3.2T超高互联带宽,为大模型训练、自动驾驶、科学计算等提供高性能、高带宽和低延迟的集群算力。

实测显示,腾讯云新一代集群的算力性能较前代提升高达3倍,是国内性能最强的大模型计算集群。

2022年10月,腾讯完成首个万亿参数的AI大模型——混元NLP大模型训练。在同等数据集下,将训练时间由50天缩短到11天。如果基于新一代集群,训练时间将进一步缩短至4天。

此外,腾讯多款自研芯片已经量产。其中,用于AI推理的紫霄芯片、用于视频转码的沧海芯片已在腾讯内部交付使用。紫霄已经在腾讯头部业务规模部署,提供高达3倍的计算加速性能,和超过45%的整体成本节省。

未来,新一代集群不仅能服务于大模型训练,还将在自动驾驶、科学计算、自然语言处理等场景中应用。

标签:

资讯阅读

NEWS

精彩推送

marvellous