DeepSeek开源周第二日:开源EP通信库
创始人
2025-02-25 10:56:42

格隆汇2月25日丨DeepSeek官宣,今日开源DeepEP,第一个用于 MoE 模型训练和推理的开源EP通信库。特点有:高效、优化的全员沟通;节点内和节点间均支持NVLink和RDMA;用于训练和推理预填充的高吞吐量内核;用于推理解码的低延迟内核;原生FP8调度支持;灵活的GPU资源控制,实现计算-通信重叠。

相关内容

热门资讯

德国总理将访问宇树科技 据香港《南华早报》网站2月20日报道,在中美关系紧张之际,德国总理默茨成为最新一位访问中国的欧洲国家...
金观平:从春节消费看中国经济潜... 特色年俗受热捧,机器人融入生活场景,“反向过年”不再小众……刚刚过去的“最长春节假期”,消费市场“马...
LPR连续九个月“按兵不动” ... 每经AI快讯,中国人民银行授权全国银行间同业拆借中心公布2026年2月24日贷款市场报价利率(LPR...
现货黄金跌1.5% 白银跌1....   周二(2月24日)纽约尾盘,现货黄金跌1.49%,报5149.92美元/盎司,北京时间09:00...
YZi Labs 将 1354... (来源:吴说)吴说获悉,据 @EmberCN 监测,在半个月前清仓 ID 后,YZi Labs 今天...