Skywork-MoE是目前能在8x4090服务器上推理的最大的开源MoE模型。8x4090服务器一共有192GB的GPU显存，在FP8量化下(weight占用146GB)，使用昆仑万维首创的非均匀Tensor Parallel并行推理方式，Skywork-MoE可以在合适的batch size 内达到2200 tokens/s的吞吐。

      拟申请汽车以旧换新补贴资金的个人消费者，应于2025年1月10日前，通过登录全国汽车流通信息管理系统网站或“汽车以旧换新”小程序，填报个人身份信息，报废汽车的车辆识别代号、《报废机动车回收证明》和《机动车注销证明》原件照片或扫描件，新车的车辆识别代号、《机动车销售统一发票》和《机动车登记证书》原件照片或扫描件等，向补贴受理地(即《机动车销售统一发票》开具地)提交补贴申请。雷霆官网

      由于first stage的Embedding计算和last stage的Loss计算，以及Pipeline Buffer的存在，流水并行下均匀切分Layer时的各stage计算负载和显存负载均有较明显的不均衡情况。昆仑万维提出了非均匀的流水并行切分和重计算Layer分配方式，使得总体的计算/显存负载更均衡，约有10%左右的端到端训练吞吐提升。雷霆官网

      参与研究的广东省人民医院首席专家、广东省肺癌研究所名誉所长吴一龙告诉新华社记者，第三代ALK抑制剂对中国患者的疗效与其在全球性研究中的表现相当。吴一龙表示，他的团队在该领域的研究还没结束，还在继续追踪随访，“我们甚至在预计10年后的情况。按照目前的生存曲线，我们是比较乐观的”。雷霆官网（撰稿：溥永璐）