报告系统性梳理了DeepSeek(DS)在大模型训练中所采用的多项创新技术,包括MoE架构的稀疏化专家模型设计、采用FP8混合精度训练提高算力利用率、多token预测(MTP)提升训练效率、以及后训练阶段采用的GRPO强化学习算法,显著降低算力成本。同时,报告强调了硬件工程化创新的重要性,如专家并行策略、双重流水线执行以及针对CUDA底层PTX代码的优化,提升硬件运行效率。DS技术路线虽提升训练效率,但未突破Scaling Law规律,算力需求仍有较大市场空间,国产算力支持面临FP8兼容性挑战,混合部署有望成为未来趋势
核心观点概述:
MoE结构将传统Transformer的全连接子层密集层替换为多个专家子网络,门控网络动态激活部分专家处理输入,稀疏使用计算资源。
DS在MoE架构上做了细粒化专家分割和共享专家隔离,实现专家的专业化和知识细粒度分解,提升模型容量和效率。
DS MoE模型在实证性能上表现抢眼:2B参数规模的DeepSeekMoE模型,计算和参数量均低于GShard 2.9B,却性能相当;16B规模的DeepSeekMoE性能近似LLaMA2 7B,但仅用后者约40%计算量;145B规模中DeepSeekMoE领先GShard,并以不到三分之一计算量达到深度模型67B性能。
图表2(DeepSeek 16B MoE与主流大模型性能对比):
解析:图中深红星代表DeepSeek 16B,明显超出同等参数规模及多数非MoE模型的性能表现,展示了稀疏专家架构下的优越性能和计算效率。
传统大模型多用BF16或FP32,保证训练精度但代价高昂。
FP8仅为FP32位宽的四分之一,FP16的一半,有助于显著节约计算资源和加速训练。
DS在V3训练中采用FP8混合精度框架,保持部分关键模块(嵌入层、注意力、门控等)较高精度,平衡效率和训练稳定性。
通过细粒度量化(分组乘数调整)与混合精度策略,避免了FP8训练的数值不稳定和溢出问题。
训练数据误差曲线(图表4)显示FP8误差表现接近BF16,训练稳定可控。
图表4(DeepSeek V2 FP8与BF16损失误差):
MTP在训练中一次预测多个后续token,利用多重交叉熵loss增加有效训练数据密度。
通过并行预测改变传统依次预测计算模式,提升硬件利用率。
DS V3采用MTP技术,提升训效与算力利用。
图表5(MTP示意图):
传统RLHF需要训练价值模型造成显存压力,且存在误差问题。
GRPO使用组内候选平均水平替代价值模型计算状态值,消除对价值模型依赖,降低算力并提升稳定性。
DeepSeek Math-Instruct 1.3B模型使用GRPO后表现明显优于传统RLHF技术路线,在数学推理benchmark(GSM8K、MATH)中提升准确率。
图表6(GRPO算法示意):
图表7(GRPO与RLHF效果对比):
专家并行(EP)策略:
图表8(EP策略示意):
双重流水线(DualPipe)策略:
图表9(DualPipe示意图):
PTX代码及其影响:
图表10(PTX作用与迁移难题):
MoE架构的发展对芯片设计提出定制化专家运算单元及近存计算的新需求,尤其是大规模低精度数据的高效处理能力。
通信上,尽管传统观点认为EP减少通信需要,但报告指出All2All通信需求不会下降,且跨节点EP频繁增加高速通信需求。
张量并行(TP)与专家并行(EP)各有计算与通信开销,选择需看具体模型并行度、激活专家数量、硬件条件,无法简单对比谁优。
图表11、12(EP与TP通信模式示意):
计算效率视角,张量并行在高显存和专家数足够场景下更友好,提升矩阵乘法的计算单元利用率,不宜过度切分。
图表13(EP与TP计算量对比):
DeepSeek以1/10成本达成与全球顶尖模型性能接近,虽大幅降低训练成本但未突破算力Scaling Law壁垒(即强算力需求仍存在),硬件需求仍将持续增长。
图表14(算力成本与模型性能对比)与图表15(训练硬件需求逻辑):
国产训练卡当前缺乏FP8支持,这会导致DS模型运行效率大幅下降,基于FP16等低精度训练对效率影响明显。
基于模型拆分,Attention部分计算较少且依赖张量并行高带宽通信,考虑采用少量海外GPU配合部署;MoE模型专家部分可异构分布,部分部署国产卡,但内存和带宽要求高。
进一步采用更细粒度专家颗粒度的模型设计(如MH-MoE架构),搭配通信库优化,有望提高国产卡的协同训练能力和性价比。
图表16(国产卡与Nvidia卡混合部署训练示意)与图表17(MH-MoE结构示例)
(见上述章节内对应图表说明)
特别强调:
本报告主要聚焦技术与行业分析,未涵盖传统意义上的估值模型和目标价预测,故无估值方法详情。
报告明确指出三大核心风险:
报告未详细量化风险概率,但明确提示风险的现实存在与潜在冲击,13].
中金研究部发布的《AI进化论(1):DeepSeek推动 大模型平权,是训练算力的拐点还是黑洞?》报告,以全面详实的技术分析,深刻解构了中国企业DeepSeek在AI大模型训练领域的领先创新及其对训练算力市场的深远影响。
DeepSeek通过技术创新集合了四大核心支柱:基于MoE架构的专家稀疏激活、FP8混合精度训练、多token预测(MTP)机制及高效强化学习策略GRPO,极大幅度降低了训练成本并提升了训练效率。这些优化,联合专家并行和双流水线等分布式计算架构设计,以及以PTX指令为代表的深层硬件调度技术,形成了软硬件协同提升算力利用率的闭环。
报告中的关键图表如DeepSeek 16B模型性能对比(图表2)和FP8训练误差表现(图表4)有力佐证了技术创新的现实效果。强化学习GRPO技术显著提高数学推理能力(图表7),体现后训练阶段的潜力释放。硬件层面PTX代码优化及通信策略展现了大规模模型训练硬件工程改良的趋势。
在市场层面,报告重申了当前预训练模型依旧受Scaling Law限制、训练算力需求持续上升的大趋势,DeepSeek创新属于“平权”而非颠覆,反而可能促进更广泛的算力资源需求释放(图表14、15、16),为国产算力芯片和AI基础设施建设带来挑战与机遇。
同时,报告谨慎指出了生成式AI模型的创新风险、硬件算力与通信瓶颈风险以及AI应用落地不足风险,呼吁关注技术及市场双重驱动的可持续性。
总结来看,DeepSeek技术创新和产业实践或成为国内AI大模型训练领域的标志性里程碑,通过持续的软硬件协同性能提升,实现大模型训练算力“平权”,降低门槛,但未削弱算力增长需求,对训练设备制造商、硬件解决方案企业提出更高要求,也强调国产算力与国际硬件协同发展的重要性。
本报告文本全面、系统地剖析了DeepSeek团队最新发布的AI大模型训练创新技术,从基础模型设计、训练精度、强化学习、分布式系统架构、硬件底层调度等多个维度进行深度解读,结合丰富的图表佐证核心观点,既体现了技术的创新亮点,也体现了未来训练硬件市场的演化趋势和风险点。报告对AI算力市场从专业视角剖析了“算力平权”背后的机遇与挑战,对行业投资者、技术开发者以及政策制定者具有重要参考价值。
中金 | AI进化论(1):DeepSeek推动“大模型平权”,是训练算力的拐点还是黑洞?.pdf