中兴通讯王卫斌:AI 进阶 ,开启极智算网新未来

光纤在线编辑部  2024-07-11 10:23:52  文章来源:本站消息  版权所有,未经许可严禁转载.

导读:中兴通讯产品规划首席科学家王卫斌在2024 WAIC的AI创新生态论坛发表了题为《AI进阶,开启极智算网新未来》的演讲,阐述了中兴通讯在智算领域的核心理念和战略布局。

7/11/2024,光纤在线讯,中兴通讯产品规划首席科学家王卫斌在2024 WAIC的AI创新生态论坛发表了题为《AI进阶,开启极智算网新未来》的演讲,阐述了中兴通讯在智算领域的核心理念和战略布局。

      
     王卫斌强调,近一年来,全球大模型和生成式AI技术突破层出不穷,智能计算的发展进入快车道,AI将从1.0进阶到2.0。相较于AI 1.0,从技术上看,AI 2.0阶段的大模型将从千亿进化到万亿甚至数十万亿,与此对应,AI基础设施从千卡集群发展到了万卡甚至超万卡集群,同时也在探索异构集群和长距互联集群的可行性。但是,谈及AI 2.0更多地是指构建AI产业开放生态和商业成功所面临的新挑战,包括:从单纯的大模型训练竞赛向模型推理应用落地、使能千行百业的转变;从性能优先、价格昂贵的集群系统向性价比优先、人人用得起的普惠算力转变;从多而不强、自成一体的碎片化封闭生态向取长补短、多方协同的开放创新生态转变。

     面对AI进阶新挑战,王卫斌表示中兴通讯将坚持开放解耦原则,通过“开放基座、以网强算、训推并举、多方合作”的核心理念与产业链合作伙伴共同构建一个开放的智算生态。

     首先是构建一个开放的“智算基座”,与主流GPU厂商紧密合作,提供高性能和多样化的算力解决方案。该方案不仅实现了“换芯不换座”的目标,还可以让用户根据不同场景选择合适算力,加速AI算力的创新,实现共赢的商业生态。

     其次是基于“以网强算”理念打造高效超万卡集群。针对单卡算力受限和机内卡间互联瓶颈引入了Olink开放交换互联的创新突破,这不仅推动了机内通信从点对点全网状互联向交换互联的转变,还支持单机更大规模的GPU部署。针对超大规模GPU服务器带宽和拥塞瓶颈,推出超万卡星云网络高速互联技术,通过大容量交换和400G接口及IGLB全局流控技术实现超万卡互联和端网协同,极大提升了集群算力的使用效率。

     再次是采取“训推并举”策略,支持异构GPU混池训练,避免了对单一算力的依赖。在推理方面,支持多场景、多规格的推理卡,实现了推理任务的智能分发,为不同的推理任务选择了性价比最高的推理卡。此外,通过提供迁移工具,支持训练和推理在不同场景GPU之间的快速迁移,进一步降低了推理成本。

     最后是积极推进“多方合作”,催熟AI产业生态。中兴通讯与业界主流厂家合作,共同打造ZTE Cloud AI开放实验室,实现多厂商互操作性测试、系统集成、创新方案验证和技术标准化;同时与多家业界主流模型合作,构建多场景系列化AI应用一体机,集成了开放模型仓库和多场景应用,支持多模型入驻模型和应用灵活适配。这使得最终客户可以根据自己的需求,灵活选择不同模型,打造场景化应用。

     王卫斌表示,未来AI技术和产业将持续进阶迭代,中兴通讯始终秉持开放共赢的理念,携手合作伙伴共同构建多元化智算发展新生态,共赢AI新未来。

来源:中兴通讯
光纤在线

光纤在线公众号

更多猛料!欢迎扫描左方二维码关注光纤在线官方微信
微信扫描二维码
使用“扫一扫”即可将网页分享至朋友圈。