中金 | AI智道(7):DeepSeek Infra开源周总结,及算力测算一览 - 详尽分析报告
一、元数据与概览
- 报告标题:《AI智道(7):DeepSeek Infra开源周总结,及算力测算一览》
- 作者:于钟海、魏鹳霏、王之昊、王倩蕾(中金公司研究部分析员)
- 发布日期:2025年3月17日
- 发布机构:中金公司
- 主题:聚焦DeepSeek在AI算力基础设施(Infra)领域开源技术的总结,重点介绍其Infra的技术创新、性能优化及成本测算,分析其对行业算力需求和商业化的推动影响。
- 核心论点:
- DeepSeek通过五大核心技术,打造了软硬件一体化的AI算力基础设施体系,达到国内领先的推理性能和毛利率水平。
- 核心技术涵盖计算层(FlashMLA、DeepGEMM)、通信层(DeepEP、DualPipe、EPLB)及存储层(3FS、Smallpond),实现了千亿参数模型的大规模训练与推理高效运行。
- 推理成本低、毛利率高,领先行业,支撑AI应用广泛落地和推理算力需求爆发。
- 技术进步将推动未来推理算力需求增长,尤其在2C(消费者互联网)与2B(企业服务)两大应用场景中均有巨大潜力。,1,7,8,9]
二、逐节深度解读
2.1 报告摘要与投资要点
- 2025年2月底举行的DeepSeek Infra开源周发布了一系列针对英伟达Hopper GPU的深度优化基础设施技术,重点解决大模型推理和训练的算力瓶颈。
- 通过FP8精度动态调整,通信优化(RDMA结合FP8压缩),流水线重叠,专家并行负载均衡和高性能分布式存储,形成算力、通信和存储的软硬协同闭环。
- 计算性能显著提升,毛利率达到行业领先的71%-84.5%。
- 预期AI infra技术的提升将带动推理算力需求大幅提升,多模态、Agent应用爆发,AI应用进入规模化商业落地期。,1]
2.2 DeepSeek Infra开源周技术细节解析
-
FlashMLA(Day1):
- 专为Hopper GPU设计的MLA解码内核,针对变长序列和稀疏注意机制优化。
- 采用分页KV缓存,显存利用减负达93.3%;融合FlashAttention 2&3及Cutlass设计优化内存访问模式。
- BF16精度下,H800SXM5平台峰值580 TFLOPS,性能提升30%以上。
- 适用训练和推理场景,核心提升变长序列处理和FP8计算性能。
-
DeepEP(Day2):
- 面向混合专家模型(MoE)和专家并行的通信库,支持FP8通信和RDMA远程内存访问。
- 高吞吐、低延迟的all-to-all通信实现通信瓶颈突破。
- 全链路支持NVLink和RDMA,尤其解码阶段用纯RDMA低延迟通信内核最大限度释放GPU计算单元。
- 通信与计算并行执行,适用训练和推理。
-
DeepGEMM(Day3):
- 针对FP8低精度矩阵乘法的深度优化库,密集与MoE GEMM均支持。
- 通过两级累加、线程束特化、Hopper TMA快速异步数据移动等优化,提升计算连贯度和硬件利用率。
- 最高性能实现2.7倍加速,是底层算力提升核心。
- 表3列举了Grouped GEMM及普通GEMM多种参数配置下的性能数据,均体现1.1-2.7倍不同程度的性能提升,推动低精度计算迁移及内存瓶颈缓解。,3]
-
DualPipe与EPLB(Day4):
- DualPipe为双向流水线并行算法,通过重叠前向后向计算与通信减少流水线气泡,提高训练效率。
- 针对V3/R1训练中跨节点专家并行通信比例高的问题,实现计算与通信交叉执行,提升整体性能。
- EPLB 专家并行负载均衡器,针对专家负载不均衡问题,采用冗余专家策略和组限制专家路由,通过层级与全局负载均衡算法实现GPU负载均衡。
- 图4和图5详细描述了负载均衡机制及专家复制分配方案,保障分布式环境资源利用最大化。,5]
-
3FS与Smallpond文件系统及数据处理框架(Day5):
- 3FS为高性能分布式文件系统,采用解耦架构,结合NVMe SSD和RDMA,实现跨节点大规模高吞吐访问。
- 支持强一致性、无状态元数据服务和事务性键值存储,适配AI大规模训练/推理负载。
- Smallpond基于DuckDB和3FS轻量级框架支持PB级别分布式数据处理。
- 集群性能极为优异,聚合读取峰值6.6TiB/s,KVCache峰值吞吐达40GiB/s,保障推理过程对缓存访问的高速需求。,7]
2.3 推理成本与毛利率测算解析
- DeepSeek利用公开的API定价与GPU节点租赁成本,结合实际节点使用情况,进行了推理业务的毛利率测算。
- 2025年3月1日数据表明,峰值共计278节点(8卡H800服务器),平均226.75节点。
- 计算服务24小时GPU Hours成本8.7万美元左右。
- 按照R1定价(相对较高)测算,收入56万美元,毛利率84.5%;按V3定价测算收入30万美元,毛利率71%。
- 综合毛利率区间定为71%-84.5%,这个水平在行业内处于领先。
- 详细算力需求模型基于参数规模6710亿、Token消耗、FLOPS利用率45%、输入输出Token价格等多维度测算,分别给出日活2,500万至1亿的不同规模场景下的算力需求及成本收益,展现了极佳的经济性和扩展潜力。,8]
2.4 行业影响与未来展望
- 作者认为技术进展将提升算力利用效率,进而推动推理算力的整体需求增长,特别是多模态、Agent类应用Token消耗较高,带动推理规模持续扩大。
- 降低推理成本使得AI应用商业化进入“不敏感”区间,未来规模取决于模型能力及应用场景开发,互联网大厂和垂直企业服务商将发挥重要作用。
- 风险主要是技术进展和商业化落地不及预期。
- 报告最后强调,行业正迎来以DeepSeek技术体系为代表的新阶段,多举措保障AI算力性能和成本持续优势。,1,9]
三、图表深度解读
图表1:DeepSeek开源周成果汇总(第1页)
- 列出了Five-Day开源周分别发布的六大核心项目,包括FlashMLA、DeepEP、DeepGEMM、DualPipe、EPLB、3FS、Smallpond,分别对应计算、通信、训练、存储等不同层面。
- 每个项目对应GitHub开源地址、发布时间、技术性能及应用领域。
- 表格体系完整,反映出DeepSeek的全栈策略及技术协同能力,支持从硬件计算到分布式通信,再到系统存储和数据处理的覆盖。
- 该表为后续章节各项具体技术详细描述提供了总体框架支持。
图表2 & 3:DeepGEMM性能数据及架构(第2-3页)
- 表出普通GEMM、分组GEMM(MoE模型用)在不同矩阵尺寸下的计算性能(TFLOPS)、显存带宽使用和最高加速比。
- 以H800 GPU为基准,最高2.7倍提升,针对FP8低精度矩阵运算的高效利用,体现计算瓶颈突破能力。
- 架构图分编译模块与内核模块,重点特化于Hopper TMA异步移动、线程束优化和FFMA/SASS交叉,确保硬件资源最大化利用。
- 数据细节显著支持文本对性能加速的论述,是性能提升和成本优化的重要技术基础。,3]
图表4 & 5:DualPipe算法调度与EPLB负载均衡(第4-5页)
- 图4展示了DualPipe实现双向流水线调度的时序图,前向、后向计算及通信操作大面积重合,流水线气泡明显减少。
- 管理GPU SM资源分配与任务拆解,将细粒度任务拆分成注意力、MLP、全对全通信片段,实现计算通信重叠。
- 图5展示层次负载均衡策略生成的专家复制分配轨迹,支持节点内和跨节点的专家复制平衡负载,减少通信开销。
- 两图数据明显支持通信与计算并行及负载均衡的性能优化效果,有效提升分布式训练效率,降低延时瓶颈。,5]
图表6:计算与通信重叠示意(第6页)
- 按训练、预填充和解码三个不同阶段,分别展示计算通信的重叠调度,体现了DualPipe调度策略的颗粒度和流水线深度。
- 显示了不同阶段前向、后向运算与通信SM资源的独立或交叉利用,进一步减少通信等待时间。
- 数据点细致,展现系统级协同调度机制的复杂性和技术成熟度。
图表7:3FS集群吞吐量及KVCache性能(第7页)
- 左侧图示180节点SSD存储集群的持续读取吞吐量,峰值达6.6TiB/s,显示出超大规模集群数据读取能力。
- 右侧图显示KVCache读写吞吐量峰值约40GiB/s及对应的GC IO活动,表明KVCache技术对推理缓存访问的高效率支持。
- 灰度排序基准测试证明Smallpond数据处理框架在处理大规模数据排序上的优异性能。
- 该表直接印证存储层对训练与推理工作负载支撑的重要性,配合算力提升实现整体系统效能最大化。
图表8:DeepSeek推理成本与算力需求测算表(第8页)
- 详尽列出评估参数:模型参数量6710亿,专家激活参数370亿,Token消耗(输入/输出)、日活规模(2500万~1亿)等。
- 根据FPLOPS需求、FLOPS利用率假设,计算所需H800 GPU数量及对应GPU小时成本。
- 推理API收入基于不同定价(V3、R1)估算,得出不同规模下的毛利率(68.5%-84.3%)。
- 该表体现了算力需求与收入成本的动态平衡,清晰展示成本结构及盈利能力,对资本及行业参与者有重要参考价值。
四、估值分析
- 本文未直接展开传统股权估值分析,但对毛利率的测算和成本收益模型极为详实。
- 通过算力使用、GPU小时费率、Token定价的层层模型,估算推理服务的收入与运营成本构成,进而反推出毛利率区间。
- 这一毛利率被视为行业领先,体现了DeepSeek产品从技术优势转化为经济优势的能力。
- 侧面体现了技术创新与财务表现的紧密挂钩,以及对未来推理市场规模和盈利空间的判断。
- 估值分析虽未直接体现投资评级,但技术领先和商业可行性强烈暗示积极市场预期。,8]
五、风险因素评估
- 报告明确指出两大核心风险点:
- 技术进展不及预期:面临GPU硬件、软件算法、分布式系统复杂性等多方面技术挑战,若进度延缓或未达到性能预期,将影响竞争优势。
- 商业化落地不及预期:推理算力服务需市场广泛接受,定价与客户增长存在不确定性,业务转换效率不高可能导致收入增长受阻。
- 报告未深入描述风险缓解策略,但技术细节及全栈开源精神是在试图降低单点失败风险,推广生态共赢或为商业成功奠定基础。
- 风险提示的严谨体现了对不确定性的清醒认知,提示投资者保持审慎。,9]
六、批判性视角与细微差别
- 潜在偏见与假设审视:
- 毛利率测算以GPU租赁成本为核心,未完整考虑其他运营成本(如网络、电力、管理等),可能导致盈利数据偏乐观。
- 直接将所有Token等同计价(尤其部分C端免费Token),实际商业模型或更复杂,存在收入波动风险。
- 报告内容内部一致性:
- 报告整体逻辑严密,技术细节与成本测算环环相扣。
- 对不同算力算法和通信协议的性能提升有详实数据支撑,图表与文字高度契合。
- 其他需注意的细节:
- 技术多为开源,推及行业生态与国产软硬件配合度和国际竞争态势未知,或影响推广速度。
- 对未来算力需求的预期高度依赖于多模态和Agent的爆发,应用不成熟风险不容忽视。
七、结论性综合
本报告从技术创新、性能测算到商业化前景进行了极其详尽的梳理和分析,突出了DeepSeek在AI基础设施领域的显著优势:
- 技术突破:通过FlashMLA、DeepGEMM、DeepEP、DualPipe、EPLB等五大核心技术,深度适配英伟达Hopper GPU,实现在计算性能(TFLOPS)、通信效率(RDMA + FP8压缩)、负载均衡、存储访问(3FS)等全栈层面的重大提升,显著打破训练和推理瓶颈。
- 经济效益转化:基于GPU小时租赁成本与API定价的综合测算,DeepSeek推理服务的毛利率高达71%-84.5%,远超行业平均水平,表明其算力基础设施不仅技术领先,而且商业模式极具价值。
- 推理算力需求预期:技术进步和成本降低预期引发AI应用规模化爆发,特别是在多模态和Agent应用推动的Token消耗成长,进一步推动2C互联网和2B企业服务两大市场的繁荣。
- 行业地位与风险:DeepSeek体现了软硬结合和开源共享的领先实践,但面临技术迭代和商业转化双重挑战,需持续保持技术领先和市场洞察能力。
- 图表数据的支持性极强,详细解读了性能指标和成本结构,保证论点扎实可信。
综上,本报告准确、全面地阐释了DeepSeek Infra技术的领先性及其对AI算力生态的深远影响,并以数据驱动的方式厘清了未来推理市场的机遇与风险,为产业参与者和投资人提供了极具价值的参考视角。
参考图片大纲
本分析依据中金公司发布的原文进行,忠实反映其内容和数据。