导语:AI发展已经成为中美两国博弈的关键点。作为AI发展的硬件基础设施,算力及其配套基础设施已经不同程度上成为限制AI发展的“木桶短板”。从我国的视角出发,高端算力芯片的短期缺失已经客观成为了我国AI发展的瓶颈。集群化解决虽然短期解决了算力不足的问题,但对下游配套供应链(连接、散热、电力等)提出了更多要求。
第一章 Token:大模型时代的“流通货币”
Token已从“技术细节”演变为大模型商业化和算力基础设施投资的核心计量单位:既是推理工作量的基本颗粒,也是模型收入定价的主标尺,更是测算算力需求与投资回报的“流通货币”。在2024-2025年,全球头部厂商Token调用量呈指数级爆发,中国日均Token消耗在短短一年内放大百倍,叠加单位Token价格持续下探,使得“Token总量×单价”成为观察AI产业真实景气度和云厂商盈利弹性的第一视角。
在多模态、Agent、端侧融入等驱动下,全球Token需求有望继续保持数倍量级增长,而在算力供给加速、算法优化压降单位Token成本之后,Token将进一步强化其在“需求侧—算力侧—资本开支侧”之间的传导中枢地位。对于投资者,沿Token视角重构产业逻辑,将有助于从“Capex故事”过渡到有清晰验证路径的“Token驱动营收与利润模型”。
1.1. Token是什么:从技术颗粒到经济记账单位
在大语言模型(LLM)中,Token是模型理解与生成的最小文本单元,可以近似理解为“字/词/字符片段”。不同模型之间并不存在统一的计量标准。这一定义有三个含义:
① 统一度量:不同长度的文本输入/输出,均可被归一化为Token数量,使推理成本与算力消耗可度量与可对比。
② 跨语种/跨模态扩展基础:在文本为主的阶段,Token主要刻画文字信息;在多模态时代,图像、音频等内容也会在编码后折算为等效Token量,从而继续沿用同一计费与算力核算框架。
③ 算力需求的换算基础:通过数学转换,可以通过同,token消耗量反推算出大致的算力需求量。
在商业模式上,Token已经成为大模型厂商对外定价最核心的单位。当前主流计费方式为:价格 =输入Tokens×输入单价 + 输出Tokens×输出单价。Token已经从“数据结构”演进为大模型经济系统中的记账单位与定价基准,相当于AI世界里的“流通货币”。
1.2.全球Token用量的指数级爆发
Token数是“AI景气度”的高频跟踪指标。Token数比营收、GPU出货量更早、更敏感地反映AI推理需求的真实强度。
第三方聚合平台及模型厂商token用量持续创新高。OpenRouter是一个聚合多家人工智能模型的 API 平台,普通用户和开发者都可以通过统一的接口来调用不同的LLM模型实现对话聊天,例如GPT-4、Claude、Gemini、Deepseek等。根据其公布的数据可知,自2024年底开始,token调用量长期保持震荡上行。2024年12月30日,该平台token周度调用量为405B;2025年12月22日,该数据已经达到4.3T,增幅超过10倍。根据官网数据,谷歌月token处理量从5月的480万亿翻倍至9月的超过1300万亿。2025年12月,火山引擎FORCE原动力大会上披露的数据显示,截至今年12月,豆包大模型日均调用量已经突破50万亿Tokens,较去年同期增长超过10倍。自豆包大模型发布至今,日均调用量增幅更是激增了417倍。可以看到,无论是美国CSP还是中国互联网大厂,Token用量在2024-2025年均呈现指数级增长。
图1:OpenRouter周度token使用量数据 |
|
资料来源:OpenRouter官网 |
图2:谷歌月度token使用量数据(万亿) |
|
资料来源:字节跳动,高盛,第一上海证券 |
Token价格:从“贵金属”到“平价流通货币”:数据显示,2023年至2025年初,OpenAI的API调用价格持续下行。2024年底统计显示,国内部分大模型的价格约为1.5元/百万Tokens;2025年2月,DeepSeek V3进一步降价到0.5元/百万Tokenss。Token报价平民化极大程度上加速了AI应用的发展
图3:2023 年以来AI Token 费用下降迅速 |
|
资料来源:晚点LatePost 微信公众平台,机器之心微信公众平台 |
图4:Google 算力支出变化情况拆分(4/25 对比 3/25) |
|
资料来源:Google 官网、Google 公告、华泰研究 |
Token降价不及需求上行影响。图4展示了 Google 25年 4 月对比 25年 3 月的情况,25 年 4 月对比 3 月算力需求环比上升56%,算力成本环比下降 14%,算力需求增长的影响高于算力成本下降的影响,未来算力支出将持续增长。同时,目前 Agent 还处于初期阶段,除 Deep Research 以外,更高级的 Agent 应用目前还未纳入测算范围。随更多 General Agent 的落地带来交互次数、任务复杂度、使用频率的提升,同时如屏幕识别等多模态的场景进一步加大 Token 的消耗。可以推知,推理侧Capex与Opex仍处在扩张趋势中,为算力基础设施提供了持续景气的需求基础。
第二章 算力芯片:英伟达高速迭代维持优势,多平台新架构破局在即
2.1.GPU占据训练主导地位,推理侧多路线百花齐放
在2024-2026年时间窗内,全球算力基础设施仍将处于高投入、高景气但尚未见顶的扩张阶段:四大云厂商及OpenAI等头部玩家的AI基建资本开支在2023-2025年由约1,474亿美元提升至预计3,622亿美元。2026-2027年,GPU/、云厂商ASIC(TPU/MTIA/OpenAI ASIC 等)路线之争仍然是资本投入重点方向。
从算力与能效来看,目前已有行业共识:CPU算力最低能效差;GPU算力高、能效中等;FPGA算力中等、能效优;ASIC算力高、能效优/极优。
目前业内倾向于按照工作负载选择具体技术路线。高算力稳定负载选ASIC降低成本;复杂多变负载选GPU;需低功耗或端侧部署选NPU;FPGA用于动态优化场景。①训练用 AI 芯片:2024 年训练用 AI 芯片 TAM 中,GPU、ASIC 分别为 350、66亿美金,预计 2030分别提升至 1559、354 亿美金,对应24-30 年 CAGR为28.3%、32.3%。②推理用 AI 芯片:2024 年推理用 AI 芯片市场空间中,GPU、ASIC 分别为 119、44亿美金,预计 2030分别提升至 1392、272 亿美金,对应24-30 年 CAGR为50.7%、35.5%。③训练&推理双用 AI 芯片:2024 年训练&推理双用 AI 芯片市场空间中,GPU、ASIC分别为 231、39 亿美金,预计 2030分别提升至 312、212 亿美金,对应24-30年 CAGR为 5.1%、32.6%。
FPGA由于算力上限较低,难以成为对GPU的替代。ASIC在开发成本上存在较大瓶颈,难以在小批量场景投入使用。ASIC 芯片是实现大批量或高性能模拟和数字功能的专用芯片,是完全定制的,因此设计和实现(非工程设计)需要更高的开发成本。Anysilicon测算,假设 ASIC NRE 成本 150 万美元,单片成本 4 美元,FPGA NRE 成本为 0,单片成本为 8 美元,可以得出结论:产量 40 万片为等效成本点,产量小于 40 万片时选择 FPGA更为划算。而据 IBS 发布的数据,随着制程工艺提升,芯片的开发成本显著提升,16nm 芯片开发成本为 1.06亿美元,到了 5nm 级别这一成本急剧上升至 5.4 亿美元。随着未来芯片制程工艺升级,开发成本持续攀升,对应的 NRE 成本也将提升,在其他条件不变情况下,等效成本点的产量将攀升。
可以预期:训练端GPU长期主导,推理端ASIC/TPU/NPU快速提升份额,并在成本敏感的大规模部署中逐步成为主力。

资料来源:亿欧智库,华创证券,西南证券,中泰证券等
2.2. GPU:英伟达路线:Hopper→Blackwell→Rubin的系统级演进
英伟达自2016年开始基本维持每年发布一款算力芯片的迭代速度。2022-2027年的路线图可分为Hopper、Blackwell与Rubin三大平台:
① Hopper平台(2022-2023):代表产品H100/H200。基本实现H100/H200在训练市场的垄断地位,为ChatGPT、Gemini等大模型提供算力基础。
② Blackwell平台(2024-2025):代表产品B200/GB200。NVLink 5 Switch带宽提升至14.4TB/s。是目前已发售的算力芯片中“性能王者”。且从Blackwell开始,英伟达开始强调Scal-up集群能力,首次推出NVL72产品形态。
③ Rubin平台(2026-2027):预计包括2026年的Rubin GPU和2027年的Rubin Ultra。Rubin GPU推理速度将达到50 petaflops(每秒千万亿次浮点运算),内存提升至288 GB,性能是Blackwell的2.5倍。而Rubin Ultra的性能将是GB300 NVL72的14倍,英伟达通过快速迭代和尖端技术(如NVLink和HBM4)巩固市场领导地位的战略。

2.3. 云厂商ASIC与TPU:多极算力标准正在形成
2.3.1. TPU:从内部工具走向行业级“第二算力标准”
Google TPU在2024-2026年成为AI ASIC中最具增速与战略性意义的产品线。据台湾富邦证券测算,TSMC在2026年上半年CoWoS产能规划上,Broadcom的TPU项目的产能配额由18.7万片提升至23.1万片,其中TPU相关出货由13.7万片上调到17.7万片,2026年TPU总出货预计可达300万颗,高于此前2.5-2.6百万颗的预测。12 月 15 日,Wccftech报道称谷歌旗下 AI 芯片 TPU 近期需求爆发,为确保下一代产品供应,已将交给联发科(MediaTek)的下一代“TPU v7e”芯片订单量翻倍。
图5:Google TPU | 图6:谷歌云搭载异构算力池支持TPU |
|
|
资料来源:Storage review | 资料来源:Google官网 |
Google不仅内部加大TPU部署,还在2025年主动将TPU资源开放给Meta、Anthropic等外部头部客户。Anthropic将拥有多达一百万颗TPU芯片,以及额外的Google Cloud服务。据摩根士丹利研报显示,Anthropic与Google的协议价值将达到数百亿美元,参照双方合作期限推算,该协议可能将持续7年。2025-2027年,Anthropic自身业务将有望维持年均复合增速150%。博通 CEO Hock Tan 在近期财报会议上证实,AI 独角兽 Anthropic 已签署了一项价值高达 100 亿美元的协议,用于部署基于TPU 的机架级基础设施。
TPU从内部工具到对外开放的过程,意味着算力平台的标准开始“多极化”,对英伟达GPU的垄断形成结构性制衡:2024年NVIDIA在AI训练GPU市场份额超90%,但2024-2026年随着TPU、MTIA、Trainium/Maia、OpenAI ASIC等多款云厂商自研芯片落地,训练和推理市场将形成GPU+多种ASIC并存格局。Google的差异化在于,TPU七代迭代+数十万规模内部部署,在Gemini等旗舰模型训练上已验证性能与成本优势,当其有选择地开放给Meta、Anthropic等客户时,TPU有机会成为行业第二算力标准。
作为应对,12月24日,英伟达和Groq宣布达成“非排他性授权协议”,英伟达将获得Groq的芯片技术授权。同时,Groq的创始人兼CEO乔纳森·罗斯(Jonathan Ross)、公司总裁桑尼·马德拉(Sunny Madra)以及其他部分成员将加入英伟达。Groq的创始人乔纳森·罗斯是前谷歌工程师,曾主导谷歌的TPU(张量处理单元)芯片项目。公司估值在今年9月的最新一轮融资中达到69亿美元。
2.3.2.国产算力:从“能用”到“部分场景可替代”
国产新势力格局:国产算力已形成“昇腾+寒武纪+昆仑芯/平头哥+GPU新势力(摩尔线程、沐曦、壁仞等)+云厂自研ASIC”多极格局。根据IDC数据,2024年我国AI算力芯片国产化率已经超过30%。新势力GPU出货已达数万卡、营收10–20亿元级,进入工程化放量阶段。
摩尔线程走“全功能GPU+MUSA生态”平台化;沐曦聚焦“高性能通用GPU+CUDA兼容”;壁仞以“BR100/壁砺+dOCS光互连超节点”直指万卡训练;寒武纪、昆仑芯、阿里平头哥、百度昆仑在NPU/ASIC+云平台闭环上深耕,整体在单卡接近A100/H20、通过超节点与互联在集群侧追赶H100/H200。

昇腾体系在算力主权与国产替代中的角色:作为国产算力的领军企业,华为基本代表了国产算力厂家当前面临的情况。昇腾(Ascend)体系是中国在云端与边缘AI算力自主可控上的核心抓手,2024-2028年中国智算中心投资规模有望大幅增长,互联网与云厂商建设的智算中心算力规模占比将升至35%,在H20出口限制背景下国产芯片替代空间广阔。
在2025 华为全联接大会中披露的最新路线图中:Ascend 910C在2025Q1量产,其后Ascend 950PR/DT(2026年)、Ascend 960(2027Q4)、Ascend 970(2028Q4)将逐步推出;Ascend 960在FP8/FP4算力上分别达到2/4 PFLOPS,互联带宽2.2TB/s,内存288GB,9.6TB/s;Ascend 970进一步将互联带宽翻倍至4TB/s,保持288GB内存但带宽提升至14.4TB/s,FP8/FP4算力提升至4/8 PFLOPS,整体对标英伟达Blackwell之后的GPU平台。

单卡性能难以短期突破,华为集群战略初获成果:按照华为给出的技术路线图,预计在2028年华为才会有和英伟达当代旗舰产品对标的单卡产品。考虑到英伟达自身的迭代速度,真正实现同代对标可能需要更久的时间。2025年4月,华为云发布CloudMatrix 384超节点,并宣布已在芜湖数据中心规模上线。CloudMatrix 384系统级创新。CloudMatrix 384 由 384 颗昇腾 910C 芯片通过全连接拓扑结构互联而成。单颗昇腾芯片的性能仅为英伟达 Blackwell GPU 的三分之一,但五倍于后者的芯片数量足以弥补这一差距。完整的 CloudMatrix 系统现在可以提供300 PFLOP 的密集型 BF16 计算能力,约为 GB200 NVL72 的两倍。总内存容量超过后者 3.6 倍,内存带宽提升 2.1 倍。搭载了CloudMatrix架构的昇腾云支撑硅基流动实现单卡1920 tokens/s的DeepSeek-R1推理性能,比肩H100部署表现。
作为高性能表现的支撑,华为CloudMatrix 系统在功耗及配套成本上做出了一定妥协:1、CloudMatrix 384功耗达到 GB200 NVL72的3.9倍,每 FLOP计算功耗高出2.3倍,每TB/s 内存带宽功耗高1.8倍,每TB HBM 显存容量功耗亦高出1.1倍。2、光模块需求激增。每个CloudMatrix 384 Pod共配置6912个400G光模块/收发器,其中5376个用于Scale Up网络,1536个用于Scale Out网络。单个Pod包含384颗昇腾910C芯片,单芯片Scale Up带宽达2.8 Tbps,需配置7个400G收发器。384颗GPU总计需384×7=2688个收发器。因采用单层扁平化拓扑,交换机侧需镜像部署同等数量的光收发器,最终形成 5376 个 400G 收发器(384×7×2)。若采用单价低于200美元的400G LPO光模块(功耗约6.5W),Scale Up网络的总体拥有成本(TCO)约为NVL72机架的6倍,功耗超过10倍。
昇腾的生态推进重点体现在:①整机厂生态:通过战略/领先/优选级伙伴如昆仑技术、华鲲振宇、神州鲲泰、长江计算等,共同推出多款服务器,应用于政务、金融、交通、工业等领域;②电源与散热:Atlas服务器电源模块随芯片升级同步升级,单机柜功耗提升带来电源价值量增加;液冷方面,冷板式与浸没式方案并行推进,预计2026年中国液冷数据中心市场规模180亿元,浸没式渗透加速;③互连与连接器:AI背板连接器需求旺盛,2025年通信连接器市场规模预计600亿元,当前AI服务器高速连接器仍由外企垄断,国产厂商在高速连接器、液冷连接器等环节具备突破潜力。
在全球GPU主导的格局下,以昇腾为代表的国产算力芯片更重要的角色是在中国本土形成“从芯片到系统到应用”的独立闭环,在H20等高端GPU受限的背景下,为国内智算中心建设提供主力替代选项,并带动本土PCB、封装、连接器、电源、液冷等全链条国产化。
第三章 :产业链上下游及市场空间
算力基础设施上游看“先进封装 + HBM + 设备国产化”,中游看“GPU/ASIC 国产替代”,下游看“AI 服务器+800G/1.6T 光模块+液冷/IDC 电力”,而需求侧是阿里/腾讯/字节/百度和三大运营商数千亿级 CAPEX 的持续托底。
图7:算力芯片上下游产业链示意图 |
|
资料来源:上市公司公告,IDC |
3.1.上游:设备、材料、EDA/IP是算力芯片的“地基”
从全半导体设备看,中国是全球最大单一市场,2025 年设备支出约 380 亿美元,但国产化率仍在20%出头,结构极不均衡。
根据 2023 年数据及对 2025 年趋势判断,上游设备国产化情况如下:

3.2.中游:芯片设计/制造/封测——算力产业链的“价值中枢”

表7:2018–2026 年全球光模块需求格局
Shipment(m) | 2018 | 2019 | 2020 | 2021 | 2022 | 2023 | 2024E | 2025E | 2026E |
800G | - | - | - | 0 | 0.1 | 2 | 10 | 22 | 43 |
- | - | - | 0 | 0.1 | 1 | 3.5 | 4 | 6 | |
AWS | - | - | - | - | - | - | - | 4 | 13 |
Meta | - | - | - | - | - | 0.2 | - | 4 | 9 |
NV | - | - | - | - | - | 0.8 | 6 | 3 | 3 |
MSFT | - | - | - | - | - | - | - | 2.5 | 3 |
Alibaba | - | - | - | - | - | - | - | 0 | 0.8 |
Tencent | - | - | - | - | - | - | - | 0 | 0.8 |
Huawei | - | - | - | - | - | - | - | 0.5 | 3 |
Others | - | - | - | - | - | - | 0.5 | 4.5 | 4 |
1600G | - | - | - | - | - | - | 0.2 | 2 | 30 |
- | - | - | - | - | - | 0.1 | 0.5 | 10 | |
AWS | - | - | - | - | - | - | - | - | - |
Meta | - | - | - | - | - | - | - | - | - |
NV | - | - | - | - | - | - | 0.1 | 1.5 | 20 |
MSFT | - | - | - | - | - | - | - | - | - |
Tencent | - | - | - | - | - | - | - | - | - |
资料来源:GF Securities (HongKong) Brokerage
图5:全球数据中心及人工智能数据中心能耗预测,2022-2027 |
|
数据来源:IDC,浪潮信息 |
图6:中国智能算力和通用算力规模及预测,2020-2028 |
|
数据来源:IDC,浪潮信息 |