DeepSeek日前宣布本周为开源周,并将连续开源五个软件库。公司於今日(25日)宣布向公众开源DeepEP。在宣布开源20分钟左右,微软(MSFT.US) 旗下代码托管平台软件GitHub上DeepEP已获得超过1,000Star收藏。
DeepEP是一个用於混合专家(MoE)模型训练和推理的专家并行(Expert Parallelism)通信库,可实现高效且优化的全对全通信,支援包括FP8在内的低精度运算,适配现代高性能计算需求。同时,DeepEP针对NVLink到RDMA的非对称带宽转发场景进行深度优化,不仅提供高吞吐量,还支援Streaming Multiprocessors数量控制,兼顾训练和推理任务的高吞吐量表现。(jl/da)(美股为即时串流报价; OTC市场股票除外,资料延迟最少15分钟。)
AASTOCKS新闻