区别于Megatron-LM社区已有的EP(Expert Parallel)和ETP(Expert Tensor Parallel)设计，昆仑万维提出了一种称之为Expert Data Parallel的并行设计方案，这种并行方案可以在Expert数量较小时仍能高效的切分模型，对Expert引入的 all2all通信也可以最大程度的优化和掩盖。相较于EP对GPU数量的限制和ETP在千卡集群上的低效， EDP可以较好的解决大规模分布式训练MoE的并行痛点，同时EDP的设计简单、鲁棒、易扩展，可以较快的实现和验证。

      6月3日，中国残疾运动员蒋裕燕参加女子S6级100米自由泳决赛。2024年全国残疾人游泳邀请赛暨国家残疾人游泳集训队测试赛于5月30日至6月7日在北京举行。本次赛事共有来自24个省、市、自治区、直辖市的195名运动员参加，比赛共设121项，参赛运动员包含肢体残疾、视力残疾和听力残疾3种类别。本项赛事是中国残疾人游泳队在备战巴黎残奥会冲刺阶段举行的全国性赛事，运动员通过“以赛代练”的方式调整竞技状态。太阳成集团

      据介绍，北京曲剧《运河遥啊谣》根据儿童剧《大运河漂流记》改编。讲述了生长于运河边上的小船头赴杭寻亲的故事。南下的运河之路艰难曲折，小船头在《山海经》中一众小神兽的帮助下，退却洪水、营救洋神父、保护重明鸟、深入魔窟大战九婴大王……弹指梦醒，爹娘托人带给小船头的《千里江河图》已在身边，大运河孕育而出的厚德载物、生生不息的民族精神，在小船头的故事中久久流传。太阳成集团

      6月3日，昆仑万维宣布开源2千亿稀疏大模型Skywork-MoE，性能强劲，同时推理成本更低。Skywork-MoE基于之前昆仑万维开源的Skywork-13B模型中间checkpoint扩展而来，是首个完整将MoE Upcycling技术应用并落地的开源千亿MoE大模型，也是首个支持用单台4090服务器推理的开源千亿MoE大模型。太阳成集团（撰稿：古新丽）