中国电信首个国产化超节点落地！

正文

请到「今天看啥」查看全文

如前文所述，人工智能技术的升级迭代速度加快，大模型参数规模不断扩大，训练推理所需的智算集群规模也在不断增长，千卡、万卡成为常态，十万卡正在路上，未来可能有更大规模的集群。

目前，业界构建智算集群主要是Scale Up和Scale Out两种方式：Scale Up称为纵向扩展，向上扩展，主要是增加单节点的资源数量；Scale Out称为横向扩展，向外扩展，主要是增加节点数量，通过高性能 网络 实现集群互联。

受限于单台 服务器 空间、功耗、散热等因素，业界主流智算服务器在提升单卡算力的同时，正在从单节点向超节点架构演进。通俗地说，超节点是Scale Up的加强版，是多个计算单元通过高速总线互联形成的集成化服务器架构，可以看作是一个高度集成的小型集群。

这对于国产算力而言是一个弯道超车的机遇，虽然近年来国产算力发展迅猛，但单卡性能与国际先进水平仍存在一定差距，超节点可以弥合单卡的性能鸿沟，也就是业界常说的“以网补算”。

据介绍，智算昇腾超节点采用新型高速总线架构，天然适配混合专家模型（MoE）架构，使得大模型训练效率和推理性能大幅提升。

这不是中国电信在人工智能布局过程中的第一个“首个”。2024年3月中国电信宣布，天翼云上海临港国产万卡算力池正式启用，这是国内首个投入正式运营的国产单池万卡液冷算力集群。

中国电信介绍，京津冀、长三角建成的国内首批全液冷万卡池，保障了智能算力的供给量，粤港澳大湾区枢纽节点建设首个超节点形态集群，标志着中国电信智能算力供给实现质与量的双重跨越。

请到「今天看啥」查看全文