区别于Megatron-LM社区已有的EP(Expert Parallel)和ETP(Expert Tensor Parallel)设计，昆仑万维提出了一种称之为Expert Data Parallel的并行设计方案，这种并行方案可以在Expert数量较小时仍能高效的切分模型，对Expert引入的 all2all通信也可以最大程度的优化和掩盖。相较于EP对GPU数量的限制和ETP在千卡集群上的低效， EDP可以较好的解决大规模分布式训练MoE的并行痛点，同时EDP的设计简单、鲁棒、易扩展，可以较快的实现和验证。

      座谈会上，上海建工、隧道股份汇报了企业改革创新发展相关工作及下一步发展战略。与会同志结合部门工作实际，就进一步支持和推动企业聚焦主责主业、强化科技创新、加快转型升级、保障安全运营、助力韧性安全城市建设等谈了想法建议。陈吉宁指出，要深刻认识搞活搞好国资国企的重大意义，坚定扛起政治责任，推动我市国资国企不断做强做优做大，更好服务社会主义现代化国际大都市建设，进一步彰显中国特色社会主义的制度优势和蓬勃生命力。bb平台官方网站登录入口

      中新网银川6月3日电 (记者 李佩珊)今年是中法建交60周年。日前，波尔多葡萄酒节中国首秀在北京启幕，宁夏贺兰山东麓产区组织产区15家酒庄携近百款佳酿亮相。同时，6月27日至30日，宁夏贺兰山东麓葡萄酒产业园区管委会还将组织贺兰山东麓酒庄前往法国参加2024波尔多葡萄酒节。这也是波尔多葡萄酒节诞生以来，首次邀请其他产区参加该活动。bb平台官方网站登录入口

      此外，重庆航空还将在7月1日起恢复重庆直飞普吉客运航班。该航班将由空客A320NEO机型执飞，计划每天1班。去程航班CZ561/OQ2061每周一、三、五、日执飞，CZ543/OQ2093每周二、四、六执飞，计划20:00从重庆起飞，22:50抵达普吉。返程航班CZ562/OQ2062每周一、三、五、日执飞，CZ544/OQ2094每周二、四、六执飞，计划23:50从普吉起飞，次日05:00抵达重庆。往返航班飞行时长约4小时。bb平台官方网站登录入口（撰稿：叶振行）