华为：昇腾AI计算平台训练出准万亿MoE模型

5月30日消息，华为宣布推出参数规模高达7180亿的全新模型 *** Ultra MoE，这是一个全流程在昇腾AI计算平台上训练的准万亿MoE模型。据悉， *** 团队提出Depth-Scaled Sandwich-Norm（DSSN）稳定架构和TinyInit小初始化的 *** ，在昇腾平台上实现了超过18TB数据的长期稳定训练。在训练 *** 上，华为团队首次披露在昇腾CloudMatrix 384超节点上打通大稀疏比MoE强化学习（RL）后训练框架的关键技术，使RL后训练进入超节点集群时代。