DeepSeek开源周第二日:开源EP通信库
创始人
2025-02-25 10:56:42

格隆汇2月25日丨DeepSeek官宣,今日开源DeepEP,第一个用于 MoE 模型训练和推理的开源EP通信库。特点有:高效、优化的全员沟通;节点内和节点间均支持NVLink和RDMA;用于训练和推理预填充的高吞吐量内核;用于推理解码的低延迟内核;原生FP8调度支持;灵活的GPU资源控制,实现计算-通信重叠。

相关内容

热门资讯

2026年春运明日开启 铁路、... 转自:央视新闻  明天零点,2026年全国春运正式启动,交通部门提前准备,应对未来40天95亿人次的...
钓鱼岛执法画面!首次披露   “那一年,  中国划出了十二海里的领海,  不是因为别人允许,  而是因为我们依法治海……”  ...
独龙江乡灾后重生 安居梦圆 转自:人民日报海外版  2025年5月31日,受强降雨影响,独龙江乡遭遇了“5·31”特大自然灾害。...
持续脱发别轻视!医生提醒或是身... 转自:新华社  冬春交替之际,气温波动较大,人体新陈代谢进入调整期,部分人群出现脱发增多现象。医生提...