本报告深入分析国产开源大模型DeepSeek推动端侧AI硬件爆发式增长的逻辑,重点关注其蒸馏技术提升小模型推理性能及对端侧SoC芯片需求的促进作用。报告指出DeepSeek推动汽车智能座舱及智能驾驶升级,造国产汽车芯片新机遇,同时详解消费电子端多模态智能硬件接入DeepSeek,实现交互体验优化和功能多样化。国产SoC芯片凭借本地产业链优势和细分市场先发优势,在AI算力升级及近存计算驱动下将显著受益。但报告也提示AI算力技术迭代、供应链稳定及海外厂商竞争等风险 。
| 模型名称 | AIME 2024 pass@1 | MATH-500 pass@1 | CodeForces rating |
|---|---|---|---|
| OpenAI 01-mini | 63.6% | 90.0% | 1820 |
| DeepSeek-R1-Distill-Qwen-32B | 72.6% | 94.3% | 1691 |
| DeepSeek-R1-Distill-Qwen-14B | 69.7% | 93.9% | 1481 |
| DeepSeek-R1-Distill-Qwen-7B | 55.5% | 92.8% | 1189 |
| 公司 | 旗舰产品 | 制程 | 应用领域 | NPU算力 |
|---|---|---|---|---|
| 恒玄科技 | BES2800 | 6nm | AI耳机、AI眼镜等 | 未公开(较上一代提升4倍) |
| 瑞芯微 | RK3588 | 8nm | 智能座舱、ARVR等 | 6Tops |
| 晶晨股份 | S905X5 | 6nm | 机顶盒 | 1-5Tops |
| 星宸科技 | SSC369G等 | 12nm | AIIPC、ADAS等 | 1-5Tops |
| 全志科技 | A733 | 12nm | 平板 | 34Tops |
| 北京君正 | T41 | 12nm | AIIPC | 1.2T@int8 4.8T@int4 |
报告标题:《AI进化论(4):端侧AI格局生变,国产SoC迎高光时刻》
作者:臧若晨、成乔升等,中金公司研究部
发布日期:2025年03月10日
报告主题:聚焦国产AI SoC芯片在端侧AI市场的机遇,围绕DeepSeek大模型的开源与蒸馏技术如何驱动AI应用普及,探讨端侧算力需求增长对相关芯片及消费电子、汽车电子等终端设备的影响和国产芯片的发展前景。
本报告的核心论点是,DeepSeek开源大模型及其优化蒸馏技术将在推动端侧AI应用普及中起到关键作用,带来算法平权,加速智能硬件的升级换代。端侧算力需求的提升将推动SoC芯片ASP(平均销售单价)上涨,国产SoC芯片基于产业链、本地生态与技术先发优势,有望在细分行业和长尾市场获得较大成长空间。报告明确看好国产汽车芯片与消费电子芯片的双轮驱动成长路径,认为随着算法水平的平衡与数据优势显现,国产芯片将获得更强的话语权和市场份额,同时也指出了技术迭代、供应链稳定及竞争加剧等风险因素,1,3,4,7,12].
报告强调DeepSeek采用开源大模型策略,允许各种厂商免费使用其优质大模型,极大降低AI应用门槛。开源模式促进了技术快速传播与应用生态繁荣,推动AI硬件需求生成。
DeepSeek通过潜在注意力机制(MLA)、稀疏注意力机制(NSA)、动态资源分配等算法手段,显著优化了推理效率和算力要求。模型推理成本远低于OpenAI ChatGPT-o1,例如DeepSeek-R1推理输入、输出成本分别仅为0.55美元和2.19美元/百万tokens,远低于OpenAI推理成本的15美元和60美元,降低企业部署门槛及用户使用成本,2].
蒸馏是一个“教师-学生”模型训练策略,小模型学习大模型生成的推理数据,将深度知识迁移并实现推理能力大幅压缩。DeepSeek创新性地引入链式思考(Chain of Thought, CoT)到蒸馏模型的训练中,使学生模型不仅学会答案,同时模仿推理过程,显著提升端侧推理能力和效率。
基于此,已开源深度蒸馏出多个不同参数规模(1.5B - 671B)的模型版本,满足从轻量级本地部署到大规模云端推理的多样应用需求。公开基准测试表明蒸馏32B模型在多个能力指标上优于OpenAI的o1-mini模型,实力突出,3].
国内多家车企积极接入DeepSeek大模型以提升智能座舱人机交互体验,如吉利、极氪、长城等,智能驾驶领域的深度融合正在探索中。汽车智能驾驶主要依赖垂直专业模型,如何兼容大语言模型是技术难点。
汽车行业正步入软件定义汽车时代,AI算法迭代速度远超车企,硬件预埋数据采集及OTA升级推动汽车芯片高速增长。比亚迪天神之眼、地平线征程B6等新方案陆续发布,充实国产汽车算力生态。比亚迪计划2025年60%以上车型配备高速NOA系统,国产汽车芯片迎来新一轮加速成长,4].
端侧推理性能提升降低芯片算力需求,使更多中低端车型部署端侧端到端大模型成为可能。DeepSeek利用蒸馏技术将大模型压缩成轻量级小模型,保留大部分性能。国产芯片供应商如黑芝麻智能、地平线凭借中阶算力布局获得正面利好。车企自动驾驶技术路线多样,理想采用端到端与视觉语言模型(VLM)双系统,云端与车端算力搭配仍需依赖高效模型优化,5].
大模型开源促进算法平权,缩小车企之间的算法差距。后进入者可借助DeepSeek利用积累数据优势实现追赶。数据量和质量将成为决定车企核心竞争力的重要因素。国产品牌市场份额不断提升,增强国产芯片市场空间。亿咖通与大众集团的合作,印证国产汽车芯片逐渐走向全球竞争前沿,6,7].
DeepSeek模型通过蒸馏支持广泛的端侧硬件部署,如智能手机、AR眼镜、智能耳机、家电及AI玩具等。国产 SoC芯片因本地供给链优势及细分市场垂直深度,有望享受AI应用红利。
报告指出,消费电子AI SoC芯片算力持续提升,先进制程迭代驱动NPU性能数倍增长,端侧算力水平适配从0.5B到3B规模模型部署。量产芯片如瑞芯微RK3588已具备6Tops算力,恒玄、晶晨等公司快速提升产品性能。芯片制程主流为12nm/6nm,未来更先进制程产品在研发中.
同时,智能设备对低延时的需求愈发重要,限制用户体验及商业普及。存算一体、近存计算解决方案有助于提升带宽与响应效率。华邦电子推出的CUBE半定制封装技术,实现高效3D堆叠结构,减少传输时延及功耗,提升端侧计算表现.
报告未提供具体估值模型或目标价,但逻辑上基于:
整体来看,报告评估国产SoC芯片通过端侧AI应用需求拉动,迎来高光发展时刻,符合国内产业链升级和应用场景爆发的趋势,助推相关企业估值提升。
报告较为全面罗列主要风险,具体如下:
风险评估体现对产业不确定性的理性判断,指出需关注市场开拓速度和外部环境影响,1,12,13].
本报告系统详尽地剖析了DeepSeek大模型的开源与蒸馏技术如何推动端侧AI应用生态的繁荣,降低推理成本,提升端侧算力需求,从而刺激AI SoC芯片市场爆发。通过蒸馏技术的进步,使得大模型的高效端侧部署成为可能,促进了手机、智能眼镜、耳机、家电及玩具等多元智能硬件的快速迭代和智能化升级,丰富了应用场景,也带动了国产芯片市场份额的提升。
汽车电子领域尤其受益于端侧AI芯片性能提升和硬件预埋的作用,预期汽车芯片将进入高速增长期。智能座舱和智能驾驶融合新模式正在形成,为国产SoC提供巨大发展空间。报告背后的核心观点是,算法平权和数据优势正在重新定义芯片行业竞争格局,国产芯片在本地生态链优势和技术积累下,有望从中受益,取得突破。
消费电子方面,随着AI SoC算力大幅提升与低延时近存计算技术的成熟,端侧AI硬件体验提升驱动应用爆发长尾市场成长空间,国产细分龙头企业凭借先发和深耕的优势将占据先机。报告通过丰富的图表详细展示了从模型应用到芯片性能再到终端产品的完整生态链,体现了端侧AI产业链各环节的精细联动。
风险方面,报告客观提出芯片技术迭代、AI应用进展、供应链稳定及竞争压力为主要挑战。整体来看,报告立场积极乐观,基于大量一手资料与多维技术及市场分析,为投资者提供了深入理解国产AI SoC芯片产业风口的视角。
| 图表编号 | 内容描述 | 主要洞察总结 | 页码 |
|---|---|---|---|
| 图表1 | 大模型平权下推理硬件需求逻辑 | 算法和硬件协同降低推理成本形成需求乘数效应,支撑SoC芯片增长 | 2 |
| 图表2 | 蒸馏技术流程示意 | 蒸馏引入CoT链式思考使端侧模型性能大幅提升,促进端侧推理普及 | 2 |
| 图表3 | 蒸馏模型参数与应用场景对应表 | 不同规模模型匹配端侧及云端差异化需求,体现芯片算力梯度需求 | 3 |
| 图表4 | 小鹏自动驾驶模型架构 | 展示云端为主,端侧结合多模型的自动驾驶方案 | 5 |
| 图表5 | 理想双系统端到端与VLM方案 | 说明端侧端到端加视觉语言模型结合提升自动驾驶能力 | 5 |
| 图表6 | 2024年中国车企销量份额饼图 | 体现国产车企市占率领先,为国产汽车芯片提供强大国内需求 | 6 |
| 图表7 | 2024年全球汽车集团销量份额饼图 | 全球主要汽车集团市场结构,国产芯片开拓海外机遇分析参考 | 6 |
| 图表8 | 多家手机品牌接入DeepSeek示例 | 确认国产手机终端开始深度集成国产大模型,推动硬件算力释放 | 8 |
| 图表9 | 星际魅族AI眼镜接入DeepSeek示例 | 反映多模态融合和端侧交互产品化进程 | 9 |
| 图表10 | Rokid AR Lite端侧多屏协同DeepSeek应用截图 | 证明基于浏览器及分屏的端侧模型应用的创新 | 9 |
| 图表11 | 主流家电品牌接入DeepSeek界面图 | 家电应用多元且商业化,提升个性化与自然语义交互体验 | 10 |
| 图表12 | 消费电子AI SoC旗舰芯片规格表 | 展示行业多家企业核心产品的算力与制程进展 | 11 |
| 图表13 | 华邦CUBE封装技术进展示意图 | 揭示近存计算封装技术提升传输性能和功耗的突破路径 | 12 |
中金研究认为,端侧AI应用的蓬勃发展正驱动国产SoC芯片迎来爆发式成长。基于DeepSeek开源蒸馏技术,软硬件协同降低推理门槛和成本,推动汽车智能座舱、智能驾驶及消费电子领域新一代智能硬件升级,国产芯片受益显著。随着算力大幅提升和近存计算技术应用,国产芯片有望继续提升市场份额,实现多端赛道突破。风险主要包括技术迭代不确定、供应链风险及国际竞争。投资者应关注国产芯片龙头布局细分市场及产品升级进程,为把握端侧AI新周期带来的产业风口提供决策支持。
中金 | AI进化论(4):端侧AI格局生变,国产SoC迎高光时刻.pdf