上海电信打造全国首个国产单池万卡液冷算力集群
发布时间:2024-01-25 11:01:07 热度:651
1/25/2024,光纤在线讯,1月22日,上海电信联合上海市徐汇区政府共同举办“算力惠模都万兆连速城”人工智能公共算力服务产品发布会。会上,“大规模算力集群暨人工智能公共算力服务平台”点亮,这是全国首个国产单池万卡液冷算力集群。同日,上海电信发布一系列人工智能公共算力服务产品,“双万兆接入暨一跳入算服务”也正式在徐汇区“模速空间”启用。
2024年上半年,中国电信将在上海规划建设智能算力资源达15000卡,总算力超4500P。其中,单池新建国产算力达万卡,是国内首个超大规模国产算力液冷集群。该集群采用新一代国产AI算力,实现了全栈自主创新和技术突破,通过高速RDMA(远程直接数据存取)连接各物理机节点,提供低时延、高吞吐量、无损通信网络和强大的并行计算能力,是目前规模最大的国产液冷机房,多项技术指标领跑全国。该集群最高可支持万亿参数大模型,便于各科研院校、大模型训练公司等机构和企业实现物理资源独享、无虚拟化损耗,满足AI计算、深度学习、图形渲染等复杂训练任务对算力的要求。
发布会上,上海电信宣布,将在“模速空间”率先落地“双万兆”接入和一跳入算服务,并提供算力和算网免费试用以及优惠商用资费。“模速空间”是全国首个大模型专业孵化和加速载体、大模型创新高地和生态集聚区。上海电信为“模速空间”部署基于50G PON和5G-A技术的“双万兆”网络,新一代OTN网络延伸入园,企业可申请专线带宽从原先的1Gbps跃迁百倍,最高可达100Gbps。同时,上海电信为入驻的大模型企业提供2Mbps至100Gbps带宽的一跳入算服务,从“模速空间”到位于临港新片区的中国电信临港智算中心,实现全光一跳直达,时延低至1毫秒,业务全程基于全光硬管道传输,端到端无拥塞,不再有传统IP网络抖动和丢包的困扰。
【来源:人民邮电报】
2024年上半年,中国电信将在上海规划建设智能算力资源达15000卡,总算力超4500P。其中,单池新建国产算力达万卡,是国内首个超大规模国产算力液冷集群。该集群采用新一代国产AI算力,实现了全栈自主创新和技术突破,通过高速RDMA(远程直接数据存取)连接各物理机节点,提供低时延、高吞吐量、无损通信网络和强大的并行计算能力,是目前规模最大的国产液冷机房,多项技术指标领跑全国。该集群最高可支持万亿参数大模型,便于各科研院校、大模型训练公司等机构和企业实现物理资源独享、无虚拟化损耗,满足AI计算、深度学习、图形渲染等复杂训练任务对算力的要求。
发布会上,上海电信宣布,将在“模速空间”率先落地“双万兆”接入和一跳入算服务,并提供算力和算网免费试用以及优惠商用资费。“模速空间”是全国首个大模型专业孵化和加速载体、大模型创新高地和生态集聚区。上海电信为“模速空间”部署基于50G PON和5G-A技术的“双万兆”网络,新一代OTN网络延伸入园,企业可申请专线带宽从原先的1Gbps跃迁百倍,最高可达100Gbps。同时,上海电信为入驻的大模型企业提供2Mbps至100Gbps带宽的一跳入算服务,从“模速空间”到位于临港新片区的中国电信临港智算中心,实现全光一跳直达,时延低至1毫秒,业务全程基于全光硬管道传输,端到端无拥塞,不再有传统IP网络抖动和丢包的困扰。
【来源:人民邮电报】