假设你下个月要用 8 颗 GPU 同时训练模型。你可以买一台服务器,把它装进机房。也可以从云厂商租一台已经装好的机器。先看机器怎么造,再看两条路各交付什么。
GPU 怎样造出来
GPU 擅长同时做大量计算。训练模型时,它反复处理数据、计算怎样调整模型。
- 设计电路英伟达决定芯片怎样计算、读写数据和通信。
- 制造裸片代工厂在圆形硅片上做出许多份电路,测试后切成一块块裸片。
- 封装与测试把计算裸片和高速显存组合起来,验证能否正常工作。
- 交付加速器封装后的 GPU 可以装进服务器底板或专用组件。
四个名字,分别指哪件硬件?
这里看到的是 Blackwell GPU 封装外形。B200 是这一代的加速器型号。
英伟达产品图底板固定并连接八颗 B200。整机厂加上主机处理器、内存、电源和散热,才是一台服务器。
英伟达硬件手册图中上方两颗是 Blackwell GPU,下方一颗是 Grace CPU。英伟达把这一组合称为 GB200 超级芯片。
英伟达产品图计算托盘、柜内交换设备、供电和液冷一起交付。图中展示整柜的外形。
英伟达产品图装成一台服务器
- 8 颗 B200 GPU
-
把 GPU 装在同一块底板上1 块 HGX B200 底板底板连接 8 颗 GPU
-
加上主机、电源和散热,装入机箱1 台 8 GPU 服务器
装成一柜 NVL72
- 1 个 GB2002 颗 Blackwell GPU + 1 颗 Grace CPU
-
每个托盘装 2 个 GB2001 个计算托盘4 颗 GPU + 2 颗 CPU
-
把 18 个计算托盘装进同一柜1 柜 GB200 NVL7272 颗 GPU + 36 颗 CPU柜内还装有 9 个 NVLink 交换托盘,负责让不同计算托盘里的 GPU 高速互通。
英伟达 GPU 路线图与单卡算力
- 2020AmpereA100
- 2022–23HopperH100 / H200
- 2024BlackwellB200 / GB200
- 2025Blackwell UltraB300 / GB300
- 2026RubinRubin GPU / Vera Rubin
单颗 GPU 的峰值算力
统一比较 BF16 密集矩阵运算。BF16 是常用的 16 位计算格式,1 TFLOPS 等于每秒 1 万亿次浮点运算。倍数 = 单颗峰值 ÷ A100 的 312 TFLOPS。
| 型号 / 版本 | 峰值 TFLOPS | 相对 A100 |
|---|---|---|
| A100[S47]80GB SXM · 基准 | 312 | 1.00× |
| A800[S48]80GB NVLink 版 | 312 | 1.00× |
| H100[S49]80GB SXM | 989.5 | 3.17× |
| H100[S50]80GB PCIe | 756.5 | 2.42× |
| H800[S48]80GB NVLink 版 | 989 | 3.17× |
| H800[S50]80GB PCIe | 756.5 | 2.42× |
| H200[S51]141GB SXM | 989.5 | 3.17× |
| H200 NVL[S51]141GB PCIe · 按单颗计 | 835.5 | 2.68× |
| H20[S52]96GB SXM · 供应商参考值 | 148 | 0.47× |
| L4[S53]24GB PCIe | 121 | 0.39× |
| L20[S54]48GB PCIe | 119 | 0.38× |
| L40[S53]48GB PCIe | 181.05 | 0.58× |
| L40S[S53]48GB PCIe | 362.05 | 1.16× |
| B200[S55]HGX B200 底板内单颗 GPU | 2,250 | 7.21× |
| Blackwell GPU[S03]GB200 NVL72 整柜内单颗 GPU | 2,500 | 8.01× |
| B300[S55]HGX B300 底板内单颗 GPU | 2,250 | 7.21× |
| Blackwell Ultra GPU[S56]GB300 NVL72 整柜内单颗 GPU | 2,500 | 8.01× |
| Rubin GPU[S57]Vera Rubin NVL72 整柜内单颗 GPU | 4,000 | 12.82× |
怎么看。H100 和 H200 的 SXM 版计算峰值相同。H200 的显存从 80 GB 增到 141 GB,带宽从 3.35 增到 4.8 TB/s。实际训练或推理速度也取决于显存、带宽、GPU 互连和软件。[H100][H200]
数字怎么换算
优先采用规格表的密集 BF16 峰值。对明确以结构化稀疏(按固定模式跳过零值)标注为两倍的指标,除以 2 还原为密集口径。HGX B200 / B300 和 GB200 NVL72 分别按 8 颗和 72 颗 GPU 折算。H20 的 148 来自服务器供应商规格,作为参考。Rubin Ultra 和 Feynman 暂缺同口径公开数据。[H20][HGX][GB200 NVL72]
服务器或整柜怎样变成算力
这是英伟达自己的整机示例。与底板相比,它已配齐主机、电源、网络和散热。
英伟达整机手册一只 GB200 计算托盘内有 4 颗 GPU 和 2 颗 CPU。
英伟达硬件手册多柜用机房网络互连,并接入存储和管理系统。
英伟达官方产品图- 上架接好供电和冷却。
- 联网连接服务器或整柜,让它们互相传数据,也能读取存储。
- 分配装好驱动和运行环境。调度软件把所需的 GPU 一次分给任务。
- 验收用真实任务试跑,检查速度和稳定性。
训练 · 改进模型
多颗 GPU 分工处理训练数据,必要时交换结果,一起调整模型。
推理 · 用模型回答
训练好的模型接收新请求。小模型可放在单颗 GPU 上,大模型可能要多颗一起算。
路径一 · 买硬件自建算力
- 你订整机向整机厂或集成商买一台带 8 颗 GPU 的服务器。
- 你安排机房放在自己的机房,或付费托管到第三方机房。
- 你组织上线自己或请服务商上架、联网、装软件、试跑。
- 你负责使用用自己的任务验收,安排维修、升级和扩容。
路径二 · 云厂商建算力,你直接租
- 云厂商取得设备采购或组织服务器、机柜和机房资源。
- 云厂商建好集群接电、冷却、联网,管理设备故障和容量。
- 你预订资源选地区、GPU 型号、数量和使用时段。
- 你远程运行云厂商分配资源,你上传代码和数据,开始训练。
怎么知道项目卡在哪一步
- 等机器 问卖家有没有整机,哪天能交。
- 等许可 跨境发货时核对设备、目的地、最终用户和用途。
- 等上线 买设备时确认机房和试跑时间。租算力时确认所需 GPU 能否同时分配。
在中国大陆怎么买设备或租算力,见下一章的采购路径与政策时间线。
中国大陆企业怎样合规取得算力?
公开政策核对至 。以下以中国大陆企业训练或部署模型为例。
现在先看三件事
- 买进口高端 GPU。H200 等符合条件的产品可以逐案申请美国出口许可。英伟达披露,已有特定中国客户对应的许可和部分实际发货。每笔交易仍须核对卖家供货、许可证适用范围和中国进口要求。[美国最终规则][英伟达交付披露][中国海关法]
- 看见 B200、GB200 或 NVL72 报价。英伟达披露 B200 和 GB200 NVL72 涉及美国出口许可要求。H200 的逐案审查政策不能直接套用到这些型号。询价时应按实际交付的芯片、服务器或整柜核对分类和交易条件。[英伟达年度报告][美国出口规则]
- 租境外算力。设备留在境外,也要核对平台能否向你的主体和用途提供服务。具体设备的出口许可可能限制远程用户和用途。若把客服记录、日志或训练数据交给境外处理,还要判断是否构成数据出境,以及是否需要办理手续。[美国防转运指引][许可对远程使用的条件][中国数据出境规则]
买设备 设备归你
在大陆买现货
先查 货从哪来、能否转售、谁负责保修。
从境外买并进口
先查 是否需要出口许可、由谁报关。
租算力 按约定时间使用
租大陆机房
先查 机房在哪、何时有卡、数据存在哪。
租境外机房
先查 平台是否向你提供服务、数据能否出境。
各阶段有哪些设备可核实?
只列有公开依据的英伟达 GPU。境内采购或选型记录无法单独证明新进口获准,许可证也只覆盖获批交易。
| 年份 | 英伟达 GPU 型号与采购状态 |
|---|---|
| 2022 | 当年变化:A100、H100 的相关新出口开始需要许可。[2022 年规则] |
| 2023 | |
| 2024 |
|
| 2025 | |
| 2026 |
B200 和 GB200 NVL72 受相关许可要求约束,公开资料未确认可常规新增进口。[受影响型号] |
2026 年 5 月,BIS 澄清,相关物项供给总部或最终母公司总部位于 D:5 国家组(含中国)或澳门的实体时,即使交货地在第三国,也要核对许可及例外。[BIS 指引]
术语和法规附录
常见缩写速查
正文里的「设备厂」「合作伙伴」「客户尽调」等说法,在产品资料和法规中常以缩写出现。需要查原文时可以对照这里。
- GPU
- 图形处理器。本文主要指用于数据中心训练和推理的计算加速器。
- ODM
- 原始设计制造商,替客户设计或制造设备。
- OEM
- 原始设备制造商。本文主要指以自有品牌销售系统的整机厂。
- HBM
- 高带宽存储器,为加速器提供高带宽显存。
- MGX
- 英伟达的模块化参考架构,用于设计不同规格的服务器和机柜。
- HGX / DGX
- HGX 是整机厂用来构建服务器的一类加速计算平台。DGX 是英伟达品牌的系统系列。
- B200 / GB200
- B200 是加速器型号。GB200 超级芯片把一颗 Grace CPU 与两颗 Blackwell GPU 组合在一起。GB200 NVL72 则是整柜产品,含 36 颗 Grace CPU 与 72 颗 Blackwell GPU。[S03]
- NPN / NCP
- NPN 是英伟达的合作伙伴网络。NCP 是其中提供云服务的一类伙伴。[S05]
- VAR
- 增值经销商,通常把设备和安装、调试等服务组合销售。
- KYC
- 了解你的客户。本文指核实交易主体、用途和异常信号。
- BIS / EAR
- 美国商务部工业与安全局和美国《出口管理条例》。
- ECCN
- 出口管制分类编码,用于确定物项的法规分类。
- VEU
- 经验证的最终用户。授权适用于获批的主体、物项、地点和条件。
- TCO
- 总拥有成本,可以包括设备、场地、电力、冷却、软件和运维成本。
下单前怎么核对出口许可和数据出境
这节用于核对一笔具体交易。各年份的型号和证据见正文清单。
- 先问卖家实际交的是什么。同一个 GPU 名字可能出现在单卡、底板或整机报价里。请出口商按实际物项给出出口管制分类编码(ECCN),并说明许可或例外是否覆盖这次的买方、目的地和用途。[美国出口规则]
- 再确认卖家说的是可申请、已获批,还是能交货。H200 等产品的逐案审查条件在 2026 年 1 月的最终规则中。收到特定许可后,还要确认进口手续及合同交付。[逐案审查条件][实际交付披露][进口申报]
- 租境外算力时,查平台准入和数据出境。把真实使用主体和用途交给平台核对。再按数据类别、当年累计人数、行业要求和适用豁免判断是否需要安全评估、标准合同或认证。[云服务相关指引][中国数据出境规则][网信办问答]
资料与证据口径
产品与伙伴信息采用英伟达公开资料。商业关系采用公司向 SEC 提交的文件,云产品示例采用 AWS 的产品资料。法规以美国监管文件为依据。以下链接需要联网。
- S01NVIDIA 年度报告 10-K制造模式、直接客户类型与对华出口许可历史。
- S02NVIDIA 截至 2026 年 7 月 26 日的季度报告 10-Q供货限制、直接客户与 H200 对华实际交付披露。
- S03NVIDIA Blackwell 平台发布说明 · GB200 NVL72 产品规格GPU、HGX、超级芯片和整柜的产品层次。
- S04NVIDIA MGX 模块化架构参考架构及其面向的整机厂、代工厂和生态伙伴。
- S05NVIDIA 合作伙伴网络 · 英伟达云合作伙伴 · 数据中心采购渠道伙伴类型、关系层级、云验证和产品采购入口。
- S06NVIDIA NVL72 系统组件 · 部署与运维服务整柜组件、实施、调试和运营交接。
- S07NVIDIA 数据中心设施参考设计供电、散热、机房与集群网络。
- S08EAR 第 734 部分 · 第 742 部分 · 第 744 部分 · 商业管制清单管辖、许可政策、最终用途和最终用户管制、物项分类。
- S09BIS 2026 年 5 月 31 日先进计算物项指引D:5 国家组或澳门相关总部与最终母公司总部要求。
- S10BIS 客户尽调与红旗指引 · 防止先进计算芯片转运的行业指引风险信号、主体和用途核实、涉及云服务的风险。
- S112026 年 1 月先进计算商品许可审查规则H200、MI325X 等在适用条件下的逐案审查政策。
- S14CoreWeave 向 SEC 提交的 2025 年 9 月 25 日 8-K预留容量订单、交付和服务可用性条件。
- S16BIS 关于不执行与启动撤销的公告 · 美国政府问责局决定 B-337935执法口径与撤销程序的区别。
- S19NVIDIA HGX B200 硬件手册 · DGX GB200 整柜硬件八 GPU 基板、计算托盘、交换托盘与整柜组件。
- S20DGX GB200 网络 · 多柜集群网络 · 推理参考架构柜内与柜间网络,以及多 GPU 推理服务。
- S21AWS EC2 加速计算实例规格八 GPU 的 B200 云实例和整柜级云服务示例。
- S22NVIDIA 官方媒体库GB200、NVL72 与 DGX SuperPOD 产品图。图像版权归 NVIDIA,部分为官方产品渲染。
- S23NVIDIA DGX B200 整机手册服务器正面、八颗 B200 及整机配套组件。
- S25BIS 2022 年 10 月先进计算出口规则先进计算和相关用途管制。
- S28NVIDIA 2025 年 H20 许可要求披露 · H20 获部分许可的季度披露4 月许可要求和 8 月获批情况。
- S29中华人民共和国海关法第二十四条规定进口收货人应如实申报、交验有关单证。
- S30国家网信办《促进和规范数据跨境流动规定》 · 2026 年 7 月数据出境问答数据出境管理、适用条件及实例。
- S31国家网信办 2026 年 9 月数据出境问答 · 《个人信息出境认证办法》认证、安全评估与其他机制的适用关系。
- S32政府采购本国产品标准及相关政策2026 年 1 月 1 日起施行,适用于政府采购项目涉及的货物。
- S33阿里云 AI 计算资源 · 华为云 ModelArts云上 GPU 资源及昇腾训推服务示例。
- S34北京航空航天大学 2022 年 9 月竞价结果目录列有 A100 80GB 显卡购买结果。
- S35NVIDIA 2023 财年年度报告 · 截至 2023 年 4 月底的季度报告2022 年的 A800 替代方案与截至 2023 年 4 月已销售的 A800、H800。
- S36NVIDIA 2024 财年年度报告2023 年 10 月许可要求及受影响型号。
- S372024 年 9 月境内算力服务商投资者交流记录 · 新华三服务器 GPU 适配文档H20、L20 境内选型与 L20 适配记录。
- S39NVIDIA 2026 财年第一季度业绩 · 中国科学院大学 2025 年采购公告新增许可要求前的 H20 销售及搭载 HGX H20 的整机采购。
- S42北京协和医院 L20 服务器中标公告 · A100 80GB 显卡采购结果 · 西安电子科技大学 Atlas 800T A2 中标公告2026 年境内采购实例。
- S43腾讯云 GPU 计算型实例列明境内部分地域的 A100 云实例规格。
- S44深圳大学 2023 年 12 月 A100 采购结果A100 80GB 境内成交记录。
- S45NVIDIA 2023 年 10 月 23 日 8-KL40S、A800、H800 等相关许可要求提前生效。
- S46Ampere · Hopper · H200 · Blackwell · Blackwell Ultra · Rubin英伟达各代架构及产品发布资料。
- S47NVIDIA A100 规格A100 80GB SXM 的 BF16 峰值。
- S48腾讯云 A800 / H800 实例规格列出两个 80GB NVLink 版本的 BF16 数值。
- S49NVIDIA H100 规格 · Google Cloud GPU 规格H100 SXM 的算力及显存带宽。
- S50联想 H100 PCIe 规格 · 联想 H800 PCIe 规格联想整机适配的 PCIe 卡规格。
- S51NVIDIA H200 规格H200 SXM 和 H200 NVL 的单颗峰值与显存。
- S52戴尔 PowerEdge XE9680 规格 · 安擎 H20 服务器规格戴尔列出 H20 的 SXM 形态及显存,安擎列出 148 TFLOPS 的 BF16 峰值。
- S53NVIDIA Ada 架构白皮书 · NVIDIA L40 规格 · NVIDIA L40S 规格L4、L40、L40S 的 BF16 密集规格。
- S54阿里云 L20 实例规格列出 L20 单卡 BF16 峰值和显存。
- S55NVIDIA HGX 规格HGX B200 / B300 的八 GPU 底板规格与稀疏口径。
- S56NVIDIA GB300 NVL72 规格 · NVIDIA 技术博客单颗 GPU 对比GB300 NVL72 整柜的配置及柜内单颗 Blackwell Ultra GPU 的 BF16 峰值。
- S57NVIDIA Vera Rubin NVL72 规格官方列出的 Rubin 单颗 GPU 密集 BF16 峰值。
- S58NVIDIA GTC 2025 路线图 · NVIDIA GTC 2026 公告Rubin Ultra 的公开目标年份与 Feynman 后续架构。