据奇客Solidot报道，阿里巴巴下一代大模型参数规模将扩大到5-10万亿级别。相比当前主流千亿级模型，参数量提升一个数量级，对算力调度、分布式训练和推理成本都提出了更高要求。业内认为，超大规模模型将推动MoE稀疏激活、异构计算与国产算力生态进一步成熟。

来源：奇客Solidot