2025年06月20日 16:18:58
华为云基于CloudMatrix384的昇腾AI云服务正式上线
《科创板日报》20日讯,在华为开发者大会上,华为云计算 CEO张平安宣布基于CloudMatrix384超节点的新一代昇腾AI云服务全面上线。据悉,华为云新一代昇腾AI云服务基于CloudMatrix384超节点,将384颗昇腾NPU和192颗鲲鹏CPU通过高速网络MatrixLink全对等互联,形成一台超级“AI服务器”,单卡推理吞吐量跃升到2300 Tokens/s。对于万亿、十万亿参数的大模型训练任务,在云数据中心,还能将432个超节点级联成最高16万卡的超大集群;同时,超节点还可以支持训推算力一体部署。(记者 黄心怡)
收藏
170.63W
我要评论
图片
欢迎您发表有价值的评论,发布广告和不和谐的评论都将会被删除,您的账号将禁止评论。
发表评论
关联话题
5.24W 人关注
4.9W 人关注