专栏名称: 雷峰网
中国智能硬件第一媒体
目录
相关文章推荐
51好读  ›  专栏  ›  雷峰网

算芯合一!华为披露昇腾体系大模型核心算子设计细节

雷峰网  · 公众号  · 科技媒体  · 2025-05-23 18:01

正文

请到「今天看啥」查看全文


图片

AMLA × 融合算子 × SMTurbo —— 让大模型推理速度与能效双重革命

基于昇腾算力,华为团队本次发布了三项重要的硬件亲和算子技术研究:
  • AMLA:用 数学魔法 重构浮点运算,让 昇腾 芯片的算力利用率突破 70%!
  • 融合算子优化:像指挥交响乐团一样调度硬件资源,让计算与通信 “无缝协奏”!
  • SMTurbo:打造内存访问的 “高速公路”,跨 384 卡延迟低至亚微秒级!

大模型推理的 “乐高积木”:算子为何如此重要?

算子是 AI 大模型执行计算的 “原子级工具”,如同乐高积木中的基础模块,负责从加减乘除到特征提取的一切核心操作。它们不仅是模型的效率引擎,更是硬件性能的放大器 —— 通过标准化设计、硬件深度适配与复用机制,让芯片处理海量数据时如虎添翼。而昇腾此次开源的三大技术,正是算子优化的 “终极形态”。

技术全景:三大黑科技如何颠覆 AI 计算?







请到「今天看啥」查看全文