2024年6月3日，昆仑万维宣布开源2千亿稀疏大模型Skywork-MoE。

根据官方介绍，Skywork-MoE基于昆仑万维开源Skywork-13B模型中间checkpoint扩展而来，是首个完整将MoE Upcycling技术应用并落地的开源千亿MoE大模型，也是首个支持用单台4090服务器推理的开源千亿MoE大模型。

Skywork-MoE模型隶属于天工3.0的研发模型系列，是其中的中档大小模型（Skywork-MoE-Medium），模型的总参数量为146B，激活参数量22B，共有16个Expert，每个Expert大小为13B，每次激活其中的2个Expert。

昆仑万维表示，在相同的激活参数量20B（推理计算量）下，Skywork-MoE能力在行业前列，接近70B的Dense模型，使得模型的推理成本有近3倍的下降。同时，Skywork-MoE总参数大小比DeepSeekV2的总参数大小要小1/3，用更小的参数规模做到了相近的能力。

图源：昆仑万维