加速卡与供应商
资料截至2026-10-27。本文回答“市面上有哪些卡、差别在哪、谁在卖、项目该怎么选”。
规格数据按来源分三级标注：
- 官方 —— 厂商 datasheet、产品页、招股说明书或监管披露文件；
- 发布会 —— 厂商在公开发布会上宣布但尚未进入 datasheet 的规划与指标；
- 第三方 —— 分析机构、媒体实测或行业报道，厂商未确认。
未注明精度和稠密／稀疏条件的算力数字不具可比性，本文一律注明；无法确认的一律写明“未公开”，不做补全。
为什么要把卡单独拿出来看
算力中心的投资里，加速卡是最大的一笔钱，也是贬值最快的一笔。建筑和机电能用几十年，卡可能三五年就要换一轮。由此派生出三个只在卡这一层才能回答的问题：
- 买什么型号决定了能接什么客户。 同样标称“600P”的两座中心，一座用 NVIDIA、一座用昇腾，能承接的任务和要做的适配工作完全不同。
- 能不能买到，不由项目决定。 高端卡受出口管制和产能约束，“已列入采购计划”不等于“能到货”。
- 规格表上的数字最容易被误读。 同一张卡，不同精度、稠密与稀疏、芯片级与机架级，数字可以相差一两个数量级。
技术原理（为什么 AI 需要 GPU、精度是什么、集群怎样组网）见技术原理与规模口径；产业链上各环节如何赚钱见产业链与市场格局。本文只处理“卡本身和卖卡的人”。
规格表怎么读
五个维度
| 维度 | 看什么 | 常见陷阱 |
|---|---|---|
| 算力峰值 | 在哪种精度下、稠密还是稀疏 | 用 FP4 稀疏峰值对比上一代的 BF16 稠密值，差距被放大十倍以上 |
| 显存容量 | 单卡能装下多大的模型 | 只看容量不看一个模型要切到几张卡上 |
| 显存带宽 | 每秒能把多少数据送进计算单元 | 推理吞吐常被带宽而非算力限制，但宣传只提算力 |
| 互联带宽 | 卡间（纵向扩展）与节点间（横向扩展）分别多少 | 把 NVLink 的卡间带宽和网卡的节点间带宽混为一谈 |
| 功耗 | 单卡 TDP 与整机、整柜功率 | 机柜能分到的电和冷，往往比机位数量更早见底 |
一条经验
训练看互联带宽和显存容量，推理看显存带宽和单位成本。
训练要在成千上万张卡之间反复同步参数，互联是瓶颈；模型越大，单卡显存装不下就要切分，切分越细，通信越重。推理则是每生成一个 token 都要把模型参数从显存读一遍，速度往往受显存带宽限制，而不是受计算峰值限制（推导见技术原理篇）。
这条经验直接解释了后文两件事：为什么 NVIDIA 的对华特供卡 H20 是“大显存、低算力”的奇怪组合，以及为什么国产卡在推理场景推进得比训练快。
NVIDIA：四代主力卡
单卡规格对比
以下为 NVIDIA 官方产品页与 datasheet 口径，SXM 版本，算力均为稠密值（规格表上的稀疏值为其两倍）。
| A100 SXM | H100 SXM | H200 SXM | B200 | B300 | Rubin | |
|---|---|---|---|---|---|---|
| 架构／年份 | Ampere／2020 | Hopper／2022 | Hopper／2024 | Blackwell／2025 | Blackwell Ultra／2025 | Rubin／2026下半年 |
| BF16·FP16 | 312 TFLOPS | 989.5 TFLOPS | 989.5 TFLOPS | 2.25 PFLOPS | 未单独公布 | 未单独公布 |
| FP8 | 不支持 | 1979 TFLOPS | 1979 TFLOPS | 4.5 PFLOPS | 未单独公布 | 35 PFLOPS（训练口径） |
| FP4 | 不支持 | 不支持 | 不支持 | 9 PFLOPS | 第三方 14～15 PFLOPS | 50 PFLOPS（发布会推理口径） |
| 显存 | 80 GB HBM2e | 80 GB HBM3 | 141 GB HBM3e | 192 GB HBM3e | 288 GB HBM3e | 288 GB HBM4 |
| 显存带宽 | 2.0 TB/s | 3.35 TB/s | 4.8 TB/s | 8 TB/s | 8 TB/s | 22 TB/s |
| 卡间互联 | NVLink 600 GB/s | NVLink 900 GB/s | NVLink 900 GB/s | NVLink 5：1.8 TB/s | NVLink 5：1.8 TB/s | NVLink 6：3.6 TB/s |
| 功耗 | 400 W | 最高 700 W | 最高 700 W | 1000 W | 第三方约 1400 W | 未公布 |
Rubin 一列的口径提示
NVIDIA 的 Vera Rubin 产品页自行标注为 preliminary（初步信息，可能变更）。其中还存在一处口径不自洽：单 GPU 的 FP8 训练标为 35 PFLOPS，按 72 卡机架应为 2520 PFLOPS，而机架级 FP8 训练的公布值约为 1260 PFLOPS，相差一倍。这类差异通常来自稠密／稀疏或 die／封装的计数方式，但在最终 datasheet 发布前无法确认。引用 Rubin 任何数字时都要回到 NVIDIA 产品页核对脚注。
几条代际规律
显存比算力涨得慢，但越来越关键。 从 A100 到 B300，稠密算力涨了约 48 倍（BF16 到 FP4，且换了精度），显存容量只涨了 3.6 倍。模型规模的增长远快于显存，这是“一个模型要切到几张卡上”成为常态的根本原因。H200 相对 H100 算力完全没变，只换了更大更快的显存，却能显著提升推理吞吐——这反过来印证了推理受带宽限制。
FP64 在 AI 卡上持续弱化。 A100 的 FP64 Tensor 为 19.5 TFLOPS，H100 升到 67 TFLOPS，到 Blackwell 一代 NVIDIA 已不再把 FP64 作为主打指标，第三方测试显示 B300 的 FP64 相对 B200 进一步削减。科学计算和工程仿真类负载不能照搬 AI 卡的选型结论，这也是超算中心与智算中心在硬件上真正分野的地方（三类中心的区别见技术原理篇）。
功耗上升快于性能密度的下降。 单卡从 400 W 到 1000 W 以上，直接把机柜从风冷推向液冷。详见建设与选址篇。
机架级产品
从 Blackwell 一代开始，NVIDIA 的主力形态从“服务器”变成“整机架”：整柜液冷、整柜交付、整柜报价。
| GB200 NVL72 | GB300 NVL72 | Vera Rubin NVL72 | |
|---|---|---|---|
| 构成 | 72×B200 ＋ 36×Grace CPU | 72×B300 ＋ 36×Grace CPU | 72×Rubin ＋ 36×Vera CPU |
| 机架算力 | 1.4 EFLOPS FP4 | 1.1 EFLOPS FP4 | 3.6 EFLOPS NVFP4（发布会） |
| 机架显存 | 13.5 TB HBM3e | 20 TB HBM3e | 20.7 TB HBM4 |
| 互联总带宽 | NVLink 130 TB/s | NVLink 130 TB/s | NVLink 260 TB/s |
| 整机功率 | 约 120 kW | 第三方约 140 kW | 未公布 |
注意前两列那组“1.4 比 1.1”。 新一代机架的宣传算力低于上一代，不是性能倒退，而是两个数字的稠密／稀疏口径不同。这正是本文强调口径的原因：跨代比较必须回到各自产品页的脚注，不能直接比大小。
命名也有一处容易混淆：Vera Rubin 机架发布时称 NVL144（按 144 个计算 die 计数），后续官方材料改称 NVL72（按 72 个 GPU 封装计数），指的是同一个产品。
路线图
以下为 NVIDIA 发布会口径，非 datasheet：
- 2026 下半年：Vera Rubin 出货。
- 2027：Rubin Ultra，配套 Kyber 机架架构，第三方报道的单机架功率量级在 600 kW。
- 2028 及以后：Feynman 架构，配 Rosa CPU。
对项目的含义：机房的设计寿命要能容纳下一代卡的功率密度。 按当前卡设计的机电，三年后可能装不下新卡。
对华出口管制与特供卡
这一节对国内项目最直接——它决定了可研里“拟采购 X 型号”这句话能不能成立。
时间线
分段说明，括号内为来源性质：
- 2022 年 10 月：美国商务部工业与安全局（BIS）首次对高端 AI 芯片设定算力与互联带宽阈值，A100、H100 不得对华出口。NVIDIA 随即推出降低卡间互联带宽的 A800、H800（公司公告）。
- 2023 年 10 月 17 日：BIS 新规引入“性能密度”指标，封堵了仅靠削减互联规避阈值的做法，800 系列停售。NVIDIA 转而推出 H20、L20、L2（BIS 规则文本＋公司公告）。
- 2025 年 4 月：H20 对华出口需申请许可证，NVIDIA 在监管文件中披露将计提约 55 亿美元的库存与采购承诺减值（公司向 SEC 的披露）。同年国内监管层面对采购 H20 转为审慎（报道）。
- 2025 年：NVIDIA 推出面向中国市场的 RTX Pro 6000D（内部代号 B40），基于 GB202、使用 GDDR7 而非 HBM、不带 NVLink，报价约 6500～8000 美元；国内客户反应冷淡（报道）。另有训练向的 B30A，约为 B300 单 die 规格的一半，状态不明（报道）。
- 2025 年 12 月至 2026 年 2 月：美方允许 H200 有条件对华出口，附带约 25% 的费用与逐案审查，NVIDIA 称于 2026 年 2 月下旬取得许可（报道＋公司披露）。实际发运量很小，中方审批成为新的约束（报道）。
- NVIDIA 2026 财年 10-K：公司称至该财年末已基本退出中国数据中心市场，并将中国数据中心收入排除在业绩指引之外（监管文件）。
特供卡规格
| 型号 | 规格 | 来源 | 适用性 |
|---|---|---|---|
| H20 | 96 GB HBM3，带宽 4.0 TB/s，FP16 稠密约 148 TFLOPS，NVLink 900 GB/s | 第三方汇总，NVIDIA 未公开发布 datasheet | 推理 |
| RTX Pro 6000D（B40） | GB202 芯片，GDDR7 显存，无 NVLink | 报道 | 单卡推理、图形 |
| B30A | 单 die，约 B300 一半规格 | 报道 | 状态不明 |
H20 是一张为推理设计的卡。 把它和 H100 并排看就清楚了：显存更大（96 GB 对 80 GB）、带宽更高（4.0 对 3.35 TB/s），算力却只有约七分之一（148 对 989.5 TFLOPS，同为 FP16 稠密）。按前文“训练看互联和容量、推理看带宽”的经验，这个组合恰好落在推理一侧——管制阈值卡的是算力，而推理最需要的带宽不在阈值里。这解释了它在国内被大量用于推理而极少用于预训练。
RTX Pro 6000D 用 GDDR7 替代 HBM、取消 NVLink，意味着多卡协同能力被实质性移除，不适合训练集群。
对项目的三条实际影响
- 不能把“能买到某型号”当作既定条件写进可研。 设备来源应有替代方案，并在风险章节说明管制变化的影响。
- 存量卡的价值会分化。 已在国内的高端卡成为稀缺资源，型号老旧的则随新卡普及而贬值；残值假设要分型号讨论，不能用统一比例。
- 国产化要求有供应确定性的成分。 不少政府投资和国资项目倾向国产芯片，这既是政策导向，也是对“买得到、修得了、有备件”的现实考虑。
华为昇腾
昇腾是国内部署规模最大的国产加速芯片。华为未公开发布完整的芯片级 datasheet，公开数字多来自发布会、第三方分析与客户侧口径，本节逐条标注。
已部署型号
| 型号 | 公开规格 | 来源 | 说明 |
|---|---|---|---|
| 昇腾 910B | FP16 约 300～400 TFLOPS 级别，配 HBM2e | 第三方与客户口径，各源不一 | 2023 年以来国内智算中心的主力型号 |
| 昇腾 910C | 两颗计算芯片封装为一颗，BF16 稠密约 750～800 TFLOPS，显存约 128 GB | 第三方（SemiAnalysis 等分析） | 2025 年起批量出货 |
超节点：CloudMatrix 384
| 项目 | 数值 | 来源 |
|---|---|---|
| 构成 | 384 颗 910C，16 个机柜（12 计算柜 ＋ 4 总线柜） | 第三方 |
| 系统算力 | BF16 约 300 PFLOPS（另一分析给约 289 PFLOPS） | 第三方 |
| 整套功耗 | 约 560 kW | 第三方估算 |
| 互联 | 约 6900 个 800G 光模块组成全互联光网络 | 第三方 |
判断： 这是用“更多芯片 ＋ 全光高速互联”换系统总算力的路线，单卡性能的差距在系统层被部分抹平，代价是功耗和机房密度。对机房的要求是整柜液冷、高密供电和大量光模块运维——老旧机房几乎无法改造承接，新建时也要把光模块的故障率和备件计入运维成本。国内已落地的案例可参考雅砻江两河口项目，该案例也演示了如何从公开数字反推实装规模。
路线图：两次大会口径对比
华为在连续两届全联接大会上公布了昇腾路线图，第二次对时间做了调整。两版并列如下：
| 型号 | 2025-09-18 口径（全联接大会 2025） | 2026-09-17 口径（全联接大会 2026） |
|---|---|---|
| 昇腾 950PR | 2026 年 Q1 | 已于 2026 年 Q1 推出 |
| 昇腾 950DT | 2026 年 Q4 | 维持 |
| 昇腾 960 | 2027 年 Q4 | 拆分提前：960DT 2027 年 Q1，960PR 2027 年 Q3 |
| 昇腾 970 | 2028 年 Q4 | 2028 年 |
| 昇腾 980 | 未提及 | 2029 年（报道，待核实） |
两版均为发布会口径，是规划而非交付承诺。2026 年的调整称 960 研发进度超出预期、性能翻倍。
昇腾 950 系列规格
发布会公布的指标：
| 项目 | 950PR | 950DT |
|---|---|---|
| 定位 | 推理 Prefill 阶段、推荐业务 | 推理 Decode 阶段、训练 |
| FP8／MXFP8／HIF8 | 1 PFLOPS | 1 PFLOPS |
| MXFP4 | 2 PFLOPS | 2 PFLOPS |
| 显存 | 自研 HiBL 1.0，128 GB／1.6 TB/s | 自研 HiZQ 2.0，144 GB／4 TB/s |
| 互联带宽 | 约 2 TB/s | 约 2 TB/s |
一处需要核实的不一致
2026 年 3 月发布的 Atlas 350 加速卡搭载 950PR，报道给出的卡级参数为 FP4 算力 1.56 PFLOPS、带宽 1.4 TB/s、功耗 600 W，与发布会公布的芯片级规格（MXFP4 2 PFLOPS、1.6 TB/s）不一致。可能是卡级与芯片级口径差异，也可能是量产降规。采购或测算前须向厂商确认是哪一级的数字。
自研 HBM 值得单独注意。 高带宽存储是出口管制的另一条线，与芯片制造并列为供应链卡点。昇腾 950 系列首次使用自研 HBM，若量产顺利，卡点会缓解一部分——这是分析判断，实际产能和良率均未公开。
超节点与集群路线
发布会口径：Atlas 950 SuperPoD 支持 8192 卡（2026 年 Q4 上市），Atlas 960 SuperPoD 支持 15488 卡（2027 年 Q4）；更大规模的 SuperCluster 分别对应 50 万卡和百万卡量级。2026 年又发布了采用 NPO（近封装光学）的昇腾 960 超节点，单节点 4096 卡（报道）。
提示： 发布会公布的是满配规格，不等于已交付的实机。有报道称 2026 年 7 月公开展示的 Atlas 950 SuperPoD 实机为 1024 卡配置。评估项目时应区分“产品规格上限”“已量产配置”和“本项目实装规模”三个数字。
其他国产厂商
| 厂商 | 代表型号 | 公开规格 | 来源 | 软件路线 |
|---|---|---|---|---|
| 海光信息 | 深算系列 DCU | 各源差异较大（显存带宽从 896 GB/s 到 1.2 TB/s 不等） | 第三方，建议索取 datasheet | 类 CUDA 生态，迁移成本相对低 |
| 寒武纪 | 思元 590、思元 690 | 思元 690 于 2026 年初量产；第三方给出 BF16 600 TFLOPS、64 GB HBM3、2 TB/s、TDP 280 W | 报道，可信度有限 | 自研软件栈 |
| 昆仑芯（百度） | P800 | 96 GB HBM，FP16 345 TFLOPS，支持 FP8 | 第三方／媒体 | 百度体系内大规模使用 |
| 平头哥（阿里） | 真武 810E（曾以 PPU 代称） | 96 GB HBM2e，ICN 片间互联 700 GB/s，PCIe 5.0 ×16；功耗 400 W | 规格来自厂商官网（2026-01-29 上线），功耗来自媒体画面 | 阿里云体系内使用 |
| 沐曦 | 曦云 C500／C550、C600 | 招股书对标 A100 算力区间；C600 为全国产工艺、增加 FP8 支持、采用 HBM3e，2026 年上半年量产 | C500／C550 对标来自招股说明书，C600 来自研报 | MXMACA，宣称适配 6000＋ CUDA 应用 |
| 摩尔线程 | MTT S5000 | 厂商口径 FP8 稠密 1000 TFLOPS、80 GB 显存、1.6 TB/s、卡间互联 784 GB/s；招股书口径 FP32 为 32 TFLOPS | 厂商发布＋招股说明书 | MUSA 软件栈 |
| 燧原、天数智芯、壁仞 | 多型号 | 公开规格零散 | —— | 多提供迁移工具或兼容层 |
这张表不能用于选型
除平头哥官网和两家公司的招股说明书外，上表多数数字来自媒体与研报转述，各来源之间互相矛盾是常态，部分数字明确标注为“推测”。做实际选型时必须向厂商索取 datasheet 和第三方实测报告，并要求在自己的模型和数据上做验证。本表的用途是建立“有哪些厂商、大致在什么量级”的地图，不是比价表。
注意摩尔线程那一行的两个数字：厂商宣传的 FP8 稠密 1000 TFLOPS 与招股书披露的 FP32 32 TFLOPS 并不矛盾，它们是不同精度路径上的指标——但如果只看前者去对标 H100，就会得出错误结论。这是本文开头那条“先问口径”在国产卡上的典型应用。
2025 年中国市场出货
IDC 统计，经路透社 2026 年 4 月 1 日报道：
| 厂商 | 2025 年出货量 | 份额 |
|---|---|---|
| 市场合计 | 约 400 万张 | 100% |
| NVIDIA | 约 220 万张 | 约 55% |
| 国产合计 | 约 165 万张 | 约 41% |
| 其中：华为昇腾 | 约 81.2 万张 | 约 20% |
| 其中：平头哥 | 约 25.6 万张（另一源 26.5 万） | 约 6.6%～7% |
| 其中：昆仑芯 | 约 11.6～11.8 万张 | —— |
| 其中：寒武纪 | 约 11.6～11.8 万张 | —— |
两条判断：
- 国产份额在一年内逼近一半，但高度集中在昇腾。 昇腾一家占国产出货的约一半，其余厂商的体量仍是数量级之差。谈“国产替代进展”时，要区分“昇腾的进展”和“国产整体的进展”。
- 自研芯片的云厂商已进入出货前列。 平头哥和昆仑芯的出货主要服务于阿里云和百度智能云自身。它们既是算力的卖家又是芯片的买家，这改变了产业链的议价结构——第三方算力中心要和这类垂直整合的对手竞争同一批客户。
国产卡的真实门槛：软件与集群
单卡峰值的差距已经在缩小，真正的门槛在三件事上：
- 算子与框架覆盖。 模型能不能跑起来、跑起来效率多少，取决于算子库的完整度。PyTorch 生态首先针对 CUDA 开发，其他软件栈需要逐个适配。
- 集群线性度。 一万张卡的集群能发挥出多少，取决于通信库、拓扑和调度。线性扩展度每低十个百分点，等效于白买一千张卡。
- 故障率与运维。 大集群里硬件故障是常态（Meta 训练 Llama 3 405B 用 16384 张 H100，54 天内出现 419 次意外中断），检查点、快速重启和备件体系决定实际可用算力。
公开可参考的线性度数字：百度在 2026 年 5 月的开发者大会上称，昆仑芯 3.2 万卡集群有效训练率达 97%，万卡规模线性扩展度超过 85%（公司口径，无第三方验证）。
调研国产卡项目时的三个问题：
- 客户要跑的模型是否已经适配？有没有在产环境里跑过？
- 适配工作由谁承担、谁出钱、要多久？
- 同规模的集群有没有在运行的实例可以参观或提供运行数据？
三个问题都答不上来的项目，硬件规格再好看也不足以支撑测算。
另外两条路线
这两条国内项目基本接触不到，但它们是判断“国产卡追到哪一步”的参照系。
AMD Instinct
| 型号 | 显存 | 带宽 | 低精度算力 | 来源 |
|---|---|---|---|---|
| MI300X | 192 GB HBM3 | 5.3 TB/s | BF16 约 1.3 PFLOPS 稠密 | 官方 |
| MI325X | 256 GB HBM3e | 6 TB/s | 同代架构 | 官方 |
| MI355X | 288 GB HBM3e | 8 TB/s | FP4 约 10 PFLOPS 稠密 | 官方 |
| MI455X | 432 GB HBM4 | 官方 datasheet 23.3 TB/s，部分合作伙伴页为 19.6 TB/s | MXFP4 约 40 PFLOPS、FP8 约 20 PFLOPS、FP16/BF16 约 5 PFLOPS | 官方，带宽口径两源不一 |
配套的 Helios 机架为 72×MI455X ＋ 18×EPYC Venice CPU，机架算力 2.9 EFLOPS FP4、1.4 EFLOPS FP8，31 TB HBM4（官方）；单机架报价约 525 万美元（第三方）。
两个值得注意的点： 一是 AMD 的显存容量一直领先同代 NVIDIA 产品（432 GB 对 288 GB），走的是“大显存吸引推理客户”的差异化路线；二是 Helios 的纵向扩展用 UALink over Ethernet 而非私有互联，代表了 NVLink 之外的开放互联路线——如果这条路线成立，超节点的供应商锁定程度会下降。
Google TPU
Ironwood（TPU7x）官方文档口径：单芯片 FP8 4614 TFLOPS、BF16 2307 TFLOPS、192 GiB HBM3e、带宽约 7.4 TB/s；单个 Pod 可扩展到 9216 颗芯片，约 42.5 EFLOPS、1.77 PB HBM，芯片间互联 9.6 Tb/s。
它的意义不在规格，而在商业模式：Google 不单独出售 TPU，只通过云服务提供。 这说明“芯片厂商的出货份额”不等于“算力市场的份额”——自研芯片 ＋ 只卖云，是绕开硬件销售的另一条路。国内阿里和百度的自研芯片走的是同一方向。
卡之外：整机、集成与渠道
买到芯片不等于买到可用的算力。中间还隔着整机、集成和交付。
整机厂
| 类型 | 代表 | 说明 |
|---|---|---|
| 国际 ODM | 工业富联、广达、纬创等 | 主要供应海外云厂商的整机架产品 |
| 国内服务器厂商 | 浪潮信息、新华三、超聚变、宁畅、联想 | 国内加速服务器市场的主力 |
| 昇腾生态整机伙伴 | 华鲲振宇、神州鲲泰、长江计算等 | 华为提供芯片与主板，整机由伙伴生产和销售 |
第三类容易被忽略。 昇腾的整机大量以伙伴品牌出现，招标文件里看到的可能是“华鲲振宇天智 AT958”而不是“华为”，但核心仍是昇腾芯片——两河口案例的设备采购就是这个形态。看招标结果判断技术路线时，要先把整机品牌还原到芯片。
IDC 数据（2025 年上半年，IDC 新闻稿）：中国加速服务器市场规模 160 亿美元，同比增长超过一倍；按销售额，浪潮信息、新华三、联想位列前三，合计近 50%；按出货台数，浪潮信息、新华三、宁畅位列前三，合计约 43%。
四条拿到算力的路径
| 路径 | 适用 | 主要风险 |
|---|---|---|
| 直接采购整机自建 | 有长期稳定负载、有运维能力 | 资金占用大，技术换代风险全部自担 |
| 租用裸金属或云实例 | 负载波动大、需求不确定 | 长期成本高于自建，大规模训练受资源调度限制 |
| 整体委托（交钥匙） | 地方投资主体缺乏技术团队 | 集成商与运营方的能力和激励决定成败 |
| 二手与存量转让 | 预算有限、可接受旧型号 | 来源合规性、保修、剩余寿命难以核验 |
多数地方投资的智算中心走第三条路径，因此商业模式篇强调的“运营方能力比硬件更关键”在这里同样成立。
项目选型的判断框架
按负载选
| 场景 | 关键指标 | 典型选择 | 注意 |
|---|---|---|---|
| 大模型预训练 | 互联带宽、显存容量、集群线性度 | 高端训练卡 ＋ 超节点 | 规模不够的集群接不到训练任务 |
| 模型微调 | 单节点显存总量 | 单机 8 卡即可 | 不需要大集群，对互联要求低 |
| 长上下文推理 | 显存容量与带宽 | 大显存卡，算力可让步 | H20 这类卡的典型场景 |
| 高并发小模型推理 | 单位 token 成本 | 性价比卡、推理专用卡 | 更在意时延，需靠近用户 |
| 科学计算与仿真 | FP64 | 不能用主流 AI 卡 | 见前文 FP64 弱化的说明 |
| 图形、渲染、虚拟化 | 图形能力与虚拟化支持 | 专业显卡 | 与 AI 卡是两条产品线 |
五个必问问题
- 这个算力数字是什么精度？ 不说精度的峰值没有意义。
- 稠密还是稀疏？ 稀疏值通常是稠密值的两倍。
- 是芯片级、卡级还是机架级？ 昇腾 950PR 与 Atlas 350 的不一致就出在这里。
- 客户的模型是否已适配，适配由谁承担？ 这是国产卡项目的核心风险。
- 供货与维保如何保障？ 现货还是排产？管制变化怎么办？备件和维保期多长？
与卡有关的常见误读
| 说法 | 问题在哪 | 应该追问 |
|---|---|---|
| “单卡算力已达 X PFLOPS，超过 H100” | 多为 FP4 或 FP8 对比 H100 的 BF16 | 同精度、同稠密条件下的对比 |
| “显存与 H100 相当” | 容量相当不等于带宽相当 | 带宽是多少？推理吞吐实测如何？ |
| “已建成万卡集群” | 建成不等于能当一个集群用 | 线性扩展度？最大可调度规模？ |
| “采用最新一代芯片” | 发布≠量产≠能买到 | 已量产的是哪个配置？交付周期多久？ |
| “国产卡已实现替代” | 推理替代与训练替代是两件事 | 替代的是哪类负载？适配成本谁承担？ |
| “整机采购自某某公司” | 整机品牌可能不是芯片来源 | 芯片是什么型号？几颗？ |
参考来源
厂商官方
- NVIDIA A100、H100、H200、GB200 NVL72、Vera Rubin NVL72（页面自标 preliminary）。
- AMD Instinct 加速器产品页。
- Google Cloud TPU7x（Ironwood）文档。
- 昇腾社区；昇腾 950 NPU 架构白皮书。
监管与公司披露
- NVIDIA 2026 财年 10-K：中国数据中心市场的表述。
- NVIDIA 2026 财年 10-Q：H200 对华出口的附加条件。
- 沐曦股份、摩尔线程科创板招股说明书：对标口径与产品收入结构。
市场数据
- IDC 2025 年中国 AI 加速卡出货统计，经路透社 2026-04-01 报道。
- IDC：AI 服务器同比增长超一倍，市场环境深化本土化，2025-10：加速服务器市场规模与厂商份额。
第三方分析
- CloudMatrix 384 分析：The Register、Tom's Hardware。
- The Llama 3 Herd of Models，Meta，2024：大规模训练的中断统计。
- MLPerf Training、MLPerf Inference Datacenter：可比的第三方性能基准，优先于厂商自报数字。
本栏目相关
- 技术原理与规模口径：精度、显存、集群组网与 PUE。
- 产业链与市场格局：各环节的商业模式与市场周期。
- 商业模式与经济测算：设备折旧、出租率与敏感性。
- 案例：雅砻江两河口算电融合项目：从公开数字反推实装规模的完整示范。