中国大模型训练如何突破算力瓶颈-国际黄金_正大期货-香港正大国际期货-官网

 

过去三年，中国大模型进步迅速，却始终未能真正站上全球前沿。Epoch AI的能力指数显示，自2023年以来，每一个处于前沿的模型均出自美国，中国模型平均落后约7个月，最短4个月，最长14个月。

与此同时，差距正在持续收窄。斯坦福大学《2026年AI指数报告》显示，中 美最 佳模型的性能差距已由2023年5月的三成以上，缩小至2026年3月的约2.7%。DeepSeek-R1在2025年初一度追平美国最强模型，但很快又被拉开距离。

差距不断缩小，为何始终无法反超？根本原因在于训练算力。

据非营利AI研究机构Epoch AI估算，DeepSeek-R1的训练计算量约为4×1024次浮点运算，Qwen3-Max约为1.5×1025次；同期美国的GPT-5约为6.6×1025次，Grok 4约为5×1026次，高出一个数量级。

在算力受限的条件下，中国大模型走出了一条“追赶加提效”的道路。DeepSeek-V3仅用2048张H800完成预训练，依靠混合专家架构和8位精度训练，将正式训练的算力成本压缩至约560万美元（不含前期研发与试验）。同一时期，Meta训练Llama 3.1 405B动用了约1.6万张H100。

然而，提效存在天花板。中国团队的效率创新，美国实验室很快就能吸收，再叠加十倍算力，差距随即重新拉开。更重要的是，效率提升不会减少算力需求，反而会扩大需求。正如19世纪蒸汽机效率大幅提高后，英国的煤炭消耗不降反升，即所谓的“杰文斯悖论”。效率越高，同样的投入能训练出越强的模型，各方追加算力的意愿也就越强。

只要训练算力的差距依然存在，中国大模型就难以跳出“追近、再被拉开”的循环。

AI算力分为训练和推理两类。尽管推理正成为算力需求的主体，但训练决定了能否自主创造和改进前沿模型。美国芯片出口管制瞄准的正是训练所需的高端芯片和互联能力。试图回答三个问题：训练算力的需求从何而来？供给的核心是什么？中国的瓶颈在哪里，又该如何突破？

01 规模定律：模型决定训练算力的需求

大模型为什么越做越大？答案是规模定律（Scaling Law）。

规模定律并非理论推导，而是在实践中反复观察到的经验规律：模型的预测误差随参数量、数据量和计算量的增加，按幂律稳定下降。这意味着，投入多少数据和算力、换来多大的能力提升，可以事先估算。正因为投资回报可以预期，科技巨头才敢于押注千亿美元。

一次训练需要多少计算？若把模型参数想象成千亿个旋钮，训练就是用海量数据反复调试，为每个旋钮找到合适的位置。业界的经验公式是：C≈6×N×D。其中，C为总计算量，N为参数量，D为训练所用的Token（词元）数。系数6源于每处理一个Token，每个参数在前向计算中需做2次浮点运算，在反向传播中需做约4次。

以Meta公开的Llama 3.1 405B为例，4050亿参数、约15.6万亿Token，计算量约为3.8×1025次。若用一张H100按峰值持续计算，需要约1200年。而前沿模型的计算量仍在快速膨胀：EpochAI估算，OpenAI的GPT-3（2020年）约为3×1023次，GPT-4（2023年）约为2×1025次，GPT-4.5（2025年）约为4×1026次，2026年9月发布的GPT-6 Astra已达1027量级。

短短6年间，前沿模型的训练计算量增长了3000倍以上。

02 训练算力的供给：算、存、连、管、供

一、从一张卡到“一台机器”

训练的计算绝大部分是矩阵乘加，同一种运算在海量数据上重复进行，天然适合切分到成千上万张GPU上并行完成。于是，总计算量可以拆解为另一个公式：C≈P×G×u×T，即单卡峰值算力（P）、卡数（G）、有效利用率（u）与训练时间（T）的乘积。

这个公式把需求问题转化成了供给问题。计算量C由模型决定，训练时间T由竞争决定，两者相除，就是训练期间必须同时在线的有效算力。P取决于能获得什么芯片，G和u则取决于能把多少张卡组织成一个系统、系统运转得有多好。

训练时间为何不能拉长？从技术上看，芯片一年一代，训练一两年的模型上线时，对手可能已用新一代芯片以更低的成本完成同类训练，技术路线也可能已被新架构淘汰。从经济上看，最前沿的模型享有阶段性垄断和较高利润，可以投入下一轮训练，形成正向循环；而追赶者刚追上上一代，领 先者一旦降价，后来者的投入便难以收回。但周期也无法无限压缩：卡数过多，通信开销急剧膨胀，系统稳定性随之下降。近两三年，前沿模型的正式训练大多在三到四个月内完成。

据此倒推：Llama 3.1 405B若要在三个月内训完，按四成利用率计算需要约1.2万张H100，Meta实际使用了约1.6万张。GPT-6 Astra这样1027量级的模型，若用GB200（单卡16位峰值约2.5 PFLOPS）、四成利用率、四个月训完，需要约10万张卡，与其实际规模相符。计算量若再增长十倍，就需要百万卡级的集群。规模，是期限倒逼出来的。

但并行不是免费的。每完成一步计算，所有GPU都必须交换中间结果、同步参数，才能进入下一步，卡数越多，交换的数据越多。前沿模型已大到任何一张卡都装不下：一个4000亿参数的模型，仅参数、梯度和优化器状态就需要数TB显存，而一张H100只有80GB，模型本身也须切分到上百张卡上。这决定了训练集群不是一堆各自工作的芯片，而是必须通过高速互联连成“一台机器”。

二、五大要素：训练数据中心为何截然不同

打个比方，传统数据中心像一栋写字楼，成千上万个互不相关的小任务共享通用服务器，一台机器出故障只影响它自己。训练数据中心则像一条生产线，几万张卡在几个月里只做一件事，任何一处停顿，全线都要等待。这条生产线由算、存、连、管、供五类要素构成，任何一项成为短板，整台机器都无法高效运转。

“算”是能力的起点。传统数据中心以通用CPU为核心，训练服务器的典型配置则是8块高性能GPU。据集邦咨询（TrendForce）和行业独立研究机构SemiAnalysis测算，加速卡按售价计占训练服务器成本的七到八成。

“存”的关键变化是高带宽显存（HBM）。GPU对数据吞吐的要求比CPU高一个数量级，若用传统内存，GPU大部分时间都在空等数据。HBM把多层内存芯片垂直堆叠，与GPU封装在一起，通过上千条通道并行传输。HBM昂贵且难以制造，全球只有SK海力士、三星和美光三家能够大规模供货。以B200为例，HBM约值3000美元，约占整卡物料成本的一半，但整卡售价在3万至4万美元之间，差额大部分是英伟达的毛利。

“连”从配套变成了命脉。训练网络须同时满足三项要求：带宽要够，否则数据送不到；时延要低，不然最快的卡也要等最慢的卡；可靠性要高，否则一次链路抖动就可能让整个训练停下来。

集群因此按通信密度分层组织：纵向扩展（Scale-up）用专用高速互联把通信最密集的一组卡连成整体，例如英伟达的GB200 NVL72把一个机柜的72张卡做成一个互联域；横向扩展（Scale-out）再用InfiniBand（高性能、低延迟的网络通信架构）或以太网把这些单元连成集群。卡数越多，网络层级越多，交换芯片、网卡和光模块随之超线性增长。

博通首席执行官预计，当集群走向50万到100万卡时，网络芯片将占AI芯片支出的15%至20%。而在传统数据中心，交换机只占资本开支的个位数百分比。

“管”是让上万张卡像一台机器那样运转的集群软件，包括调度、故障检测和断点续训，它直接决定有效利用率u。

u由两部分相乘：一是算力真正用于模型计算的比例，即模型算力利用率（MFU）；二是有效训练时间的占比。Meta披露，Llama 3.1 405B训练的MFU为38%至43%，其余都耗在通信、等待和系统开销上；训练中平均约3小时意外中断一次，依靠快速恢复，有效训练时间约九成。规模越大，利用率越难守住：卡数从8192张翻倍到16384张，MFU从43%降至41%；按同样的故障率推算，扩大到十万张卡，平均约半小时就会中断一次。

“供”即电力与散热。传统机柜功率多为几千瓦到十几千瓦，训练机柜可达100千瓦以上，超出风冷能力，必须采用液冷。训练GPT-6 Astra的10万张GB200，连同配套设施功耗超过2亿瓦。训练又要求集群在物理上紧凑，前沿训练园区因此走向吉瓦级：一个1吉瓦的AI数据中心前期投资约380亿美元，功率规模相当于一座大型核电机组。

五项要素放在一起算账：1000台通用服务器连同机房投资约为2000万美元，网络只是零头；换成1000台8卡H100训练服务器，总功率约11兆瓦，是前者的十几倍，合计投资约为4.6亿美元，是前者的20多倍。增量中五成在加速卡，一成在网络，三成在机房、供电与制冷。同样数量的服务器，一边是写字楼里的办公设备，一边是自带变电站的重型工厂。

三、供给瓶颈：谁最稀缺，谁掌握定价权

五项要素的扩产速度并不相同。先进制程与封装集中在台积电，HBM集中在三家存储厂，电力受制于电网建设周期，这三项扩产都以年计；需求却按模型代际变化，约一年一代。供需节奏错配，稀缺环节便获得定价权，2026年一季度服务器DRAM合同价单季上涨约九成即是一例。

价格是周期性的，标准制定权才是结构性的。HBM的规格围绕加速器的需求反推，英伟达直接向三家存储厂采购，再交由台积电封装；光模块、液冷等厂商也围绕其机架参考架构设计产品。GPU厂商既是这台机器的引擎，也是规则的制定者。

03 英伟达为什么是权力中心

出海变局：流量失灵，30%的消费者因AI弃品牌而去

从买方看，训练的试错成本极高。系统一旦不稳定，训练周期就会拉长，严重时甚至失败，数月时间和上亿美元的投入随之付诸东流。理性选择是只采用经过大规模验证的方案，为确定性支付溢价。

Meta把Llama 3.1 405B的线上推理交给AMD，训练仍使用英伟达，原因在于推理可以先拿部分流量试验，训练则试不起。用的人越多，方案验证越充分，下一个买家越不敢更换，这是典型的网络效应。

从卖方看，英伟达的优势恰好覆盖了公式中供应商能够左右的三个变量：P、G和u。单卡算力P一年一代，持续领 先，但竞争对手的纸面参数可以追平；真正难以追赶的是G和u，即能否把数万张卡连成一台机器并稳定运行数月，以及运行时有多少算力真正用于计算。

英伟达2020年收购Mellanox（迈络思）获得InfiniBand，把纵向的NVLink（英伟达开发的高速互连总线及通信协议）与横向的集群网络都握在手中；通信库和算子库则建立在近20年的CUDA生态之上。规模越大，利用率越难维持，英伟达的统治力正是来自这套覆盖芯片、网络与软件的系统，成建制地抵御规模带来的效率衰减。

因此，训练市场呈现一家主导、少数追赶的格局，真正的追赶者都是整套体系。谷歌能用自研TPU训练Gemini，是因为它同时拥有芯片、软件、数据中心和模型研发。训练侧的竞争不奖励单项冠军，只奖励能把几万张卡变成一张卡、并让极度厌恶风险的客户放心使用的厂商。

04 中国训练算力的现状：五项要素，四项有短板

全球大模型的训练主要在美国和中国。美国训练算力供给的突出特征是资本充裕。主要云厂商的资本开支从2021年的约1310亿美元增至2025年的约4160亿美元。按EpochAI的统计，截至2025年5月，美国约占全球GPU集群算力的四分之三，中国约占15%。

在美国，芯片和HBM虽然紧张，但市场化扩产机制运转正常，最硬的约束反而是电力：数据中心用电占全美用电量的比例2023年为4.4%，预计2028年将升至6.7%至12%。

我们用同一框架审视中国的算力供给。

“算”：高端GPU无法购买，自研的瓶颈不在设计，而在先进制程，制程背后是光刻机等设备的管制。华为面向训练的升腾950DT，8位精度算力约1 PFLOPS，约为英伟达B200的两成多；下一代升腾960DT预计2027年一季度就绪，单卡约2 PFLOPS，仍不及B200的一半。

“存”：海外HBM采购渠道基本被切断，国产唯 一明确的途径是长鑫存储。据报道，长鑫存储已小规模试产HBM3E，比国际三强落后一代，上一代HBM3的综合良率估计仅为25%左右。

“连”：长短并存。光模块由中国厂商主导，但高速DSP（数字信号处理器）芯片和高端激光器仍依赖进口；交换芯片华为已做到51.2T，博通已达102.4T。

“管”：CUDA积累了近20年，国产平台的算子库、通信库和工具链仍需补齐，但差距可以追赶。

“供”：这是中国最强的一项。2025年中国新增发电装机5.4亿千瓦，是美国同年的十倍。

结果是：国产算力目前主要用于推理，尚无国际前沿水平的模型在国产体系上完成预训练。

用前文的公式倒推：同样一个1027量级的模型，同样在四个月内训完，由于单卡算力约为B200的五分之一，采用升腾950级芯片所需的卡数约为英伟达方案的四到五倍，即四五十万张。卡数越多，利用率越难维持，所需的HBM和互联器件也成倍增加。这正是中国训练算力瓶颈的实质。

近年各地兴建的大量智算中心也难以填补这一缺口：它们规模有限、芯片型号各异，即使存在闲置算力，也拼不成“一台机器”。

05 如何突破训练算力的瓶颈

短期的瓶颈是单卡算力不足、HBM紧缺和软件生态不成熟。应对之策至少有三。

其一，以系统弥补单卡。单卡差距短期内难以追平，就在卡数G和利用率u上着力，以更多卡、更多电和更强的工程组织能力弥补单卡的不足。

这正是华为的路径：超节点把紧密互联的范围扩展到跨机柜的4096张卡，灵衢总线让数千张卡在软件层面更像一台机器，近封装光学（NPO）降低互联的功耗与故障率。

代价是能耗。SemiAnalysis测算，华为CloudMatrix 384超节点单位算力耗电是英伟达GB200 NVL72的两倍多。但电费仅占吉瓦级数据中心年化总成本的7%左右，耗电翻倍只令总成本增加一成左右，电力恰是中国最充裕的资源。

其二，在模型层面提效。混合专家架构只激活部分参数，可大幅降低计算量；8位低精度训练使芯片峰值算力翻倍、通信量减半，等效于提升单卡性能。DeepSeek已证明这条路径可行。

其三，用好进口芯片。今年中国对英伟达H200的进口持审慎态度，据报道获批数量可能不到企业申请量的一半。顾虑可以理解：进口芯片过多，国产芯片将失去验证机会。但前沿竞争存在时间窗口，错过一代，追赶成本成倍上升。

与其一味强调国产替代，不如以安全可靠为标准，两条腿走路：前沿训练在许可范围内用好进口芯片，抢占时间；国产芯片先在推理和中等规模训练中放量，逐步向前沿推进。资源则应集中于少数大型训练集群，避免分散投入。

中期的瓶颈在于量产。没有EUV光刻机，只能依靠存量有限的DUV光刻机以多重曝光逼近先进制程，设备保有量和良率决定了升腾的产量；一颗升腾960估计需配8到12块HBM，卡数放大，HBM需求同步放大。

突破方向有三：一是国产GPU和HBM的良率与产能爬坡；二是补齐高速DSP芯片、激光器和交换芯片等互联短板；三是推动软件生态从“能用”走向“好用”。升腾软件栈CANN于2025年8月宣布全面开源，DeepSeek也开源了面向升腾的训练组件。开源技术本质上是反垄断的，任何一方都无法借此“卡脖子”。

中期还有一个市场难以自行解决的问题：谁来做第 一个吃螃蟹的人？

训练买家极度厌恶风险，无人愿意率先在新平台上押上数月时间和上亿美元；无人使用，平台就得不到验证，越得不到验证，越无人使用。而首 个吃螃蟹者的经验，全行业都能受益。

此时，政府需要介入，但方式至关重要。政府不必亲自组织团队、分配资源，可以提出需求、设立奖励：谁能在国产算力体系上完成一次前沿规模的训练，即给予奖励或有保障的采购合同。做不成，奖励不发，政府不承担财务风险；做成了，每一分钱都换来实在的成果。具体如何实现，交给最了解情况的市场。

中期还须警惕风险过度集中。目前，中国能交付整套前沿训练体系的只有华为一家，它事实上扮演着“中国英伟达”的角色。枢纽立住，生态才能运转；但路线一旦偏差，便无第二套体系兜底。培育第二套训练体系、推动接口与软件兼容，是中期的重要任务。

长期的决定性因素是以光刻机为首的核心设备，这是先进制程芯片和HBM共同的瓶颈。国产光刻机以及刻蚀、沉积、量测等设备的攻关，才是真正的底层战场。

同时，我们也应探索绕开制程限制的新路径，例如华为提出的逻辑折叠，但据其披露要到2030年前后才能用于训练芯片。

设备攻关，资金固然重要，人才更为关键。光刻机牵涉光学、精密机械、材料、控制等众多学科，顶 尖人才的培养以十年计，急不得，但必须现在着手。

总之，短期靠系统工程和模型提效，中期靠产能爬坡和首批大规模验证，长期靠核心设备与人才。三个阶段争夺的是同一件事：能否依靠自身力量，把几万张卡变成一台机器。

提效让我们追得更近，算力才能让我们走到前面。规模定律仍在生效，前沿训练的门槛每年成倍抬高。这是一场长跑，比拼的是持续投入的耐力与方向。