国产 GPU 第一次公开说「我比 H200 快」：天数智芯天垓300 把实测数据摊在桌上了
国产 GPU 第一次公开说"我比 H200 快"：天数智芯天垓300 把实测数据摊在桌上了
一句话先说结论：国产 AI 芯片的比拼，正在从"能不能跑起来"换成"跑一个 token 要花多少钱"。天数智芯在这场媒体开放日上给出的答案很直接——单卡折算吞吐做到 H200 的 1.05 倍，并用一个 144 卡的机柜把 token 成本往下压了约四成。
本文基于多家媒体转述整理，不是厂商新闻稿原文。
3 分钟看懂：到底发生了什么事
10 月 28 日，天数智芯在上海办了场叫"从模型到世界"的 2026 媒体开放日。这种活动在国内芯片圈不常见：不是发 PPT 讲架构，而是把机器开着，让媒体带着模型上去跑，跟英伟达 H200 摆在一起比。
天垓300 是这家公司今年 7 月在世界人工智能大会上发布的产品，这次是第一次面向媒体做实机演示。现场放的对比项包括 GLM-5.3 这类大语言模型，以及文生图、文生视频。
最受关注的一个数字：在典型 PD 分离部署下，天垓300 折算单卡的整体端到端吞吐达到 H200 的 1.05 倍。这个数据来自上海仪电今年 7 月完成的第三方实测。多家媒体把它写成同一句话——"国内首个实测性能达到 H200 水平的通用 GPU"。
先把这颗芯片说清楚
按现场和此前公开信息，天垓300 的基本盘是这样：
- 架构：天数自研的"天枢"架构，集成新一代 Tensor Core
- 显存：144GB
- 计算模式：原生支持标量、矢量、张量三类，覆盖 FP4、FP8、FP16、BF16 等精度
- 互联：支持高速片间互联，可组 8 卡整机，也可上超节点
144GB 这个数字值得单独提一句：大模型推理最怕的不是算力不够，而是显存装不下、带宽喂不饱。显存大一点，能塞下的模型和上下文就长一点，这是国内厂商这几年很实在的一条竞争路线。
分场景数据比一个总数更有意思
"1.05 倍"这种总数很容易被质疑口径。这次媒体拿到的是一组分场景数据，反而更能看出这颗卡的实际位置：
- 64K 长上下文下，Attention 性能是 H200 的 1.05 倍
- GLM-5.3 在 64K 规模下，保证同等用户体验时 MoE 吞吐是 H200 的 1.15 倍
- 8K 到 128K 长上下文场景，Agent 首字延迟比 H200 低约 10% 到 30%
- 多模态生成推理吞吐比 H200 高约 2% 到 5%
- 搜广推这类在线业务，推荐推理吞吐提升 21%，轻量计算时延降低 26%
- 训练侧：Qwen3-32B 的 8 卡整机 FP8 训练，每卡有效吞吐达到 H100 的 1.33 倍
看懂这组数的关键是分清"峰值"和"有效"。峰值算力是纸面参数，端到端吞吐是用户真正感受到的东西——同样一个请求，从进来到出结果花了多久、机器一天能吐多少 token。国产卡过去常被诟病"峰值不低、实际跑不满"，这次公布的全是后一类指标。
为什么这件事值得认真看
买卡的人其实不太关心 FLOPS 排行榜。他们关心三件事：模型能不能装下、跑起来合不合规、每百万 token 花多少钱。
天数智芯这次把成本算到了台面上：天垓300 IXL144 超节点在单个标准机柜里集成 144 颗 GPU，聚合约 10.1TB 显存，每百万有效 Token 成本比国际主流方案低约 40%。
这条逻辑和英伟达近两年的机柜化路线是同一个方向——单卡打不过就拼系统，把互联、供电、散热、显存全算成一个整体来卖。区别在于，国产方案更强调"单位 token 成本"而不是"单位算力价格"，因为后者的买家是训练大厂，前者的买家是每天要处理海量请求的推理服务商。
适用场景：谁现在就该关注
- 正在给推理集群找第二供应商的云厂商和模型公司：多一个能实测对标 H200 的选项，议价空间就不一样
- 做国产化替代的政企 IT：过去的上限是"能跑"，现在的上限是"跑得划算"
- 推理服务的运维和容量规划：长上下文、Agent 这类吃首字延迟的业务，10% 到 30% 的延迟差距会直接体现在用户体验上
- 做多模态生成的团队：2% 到 5% 的吞吐差不算大，但如果它同时意味着显存更宽裕，整体账就不一样
顺带一提，现场还展示了端侧产品线：彤央 TY1200 标称 300 TOPS 稠密算力，在 Qwen3.8-27B 等模型实测中达 Thor T5000 的 1.2 倍；下一代 TY2000 预告算力到 600T。云端和车端/边缘在同一条产品线上打通，是这家公司这两年的固定叙事。
不适用场景：别把这份数据当万能通行证
先把话说在前面，这份成绩单有几个明确的边界：
- 不是所有模型都测了。现场主打 GLM-5.3、Qwen3 系列和生成类模型，如果你的业务跑的是冷门结构或自研算子，实际表现需要自己复测
- 1.05 倍是"折算单卡端到端吞吐"，依赖 PD 分离部署和特定的并行策略；换个部署方式，数字会变
- 训练侧的 1.33 倍只针对 Qwen3-32B 的 8 卡 FP8 整机这一种配置
- 生态仍是真短板。CUDA 迁移成本、算子库覆盖、框架适配成熟度，这些不会因为一张对比表就消失
避坑：看到这类对标数据该问什么
如果你正在评估国产算力，这份材料至少提示了四个该追问的点：
- 口径是什么——是峰值算力、单卡吞吐，还是整机端到端？三者能差出一倍以上
- 测试条件写清楚了吗——模型版本、上下文长度、batch 大小、并发数，少一个都不可比
- 第三方是谁——这次点名的是上海仪电 7 月的实测，可信度比厂商自测高，但仍要看完整报告
- 软件栈跟不跟得上——现场提到部署时间从 1 小时压到 10 分钟、人工操作从数十步减到 1 步、某大模型调优周期从 7 天缩到 2 小时、编译速度提升超 90%。这些数字如果属实，说明他们在补的正是过去最薄的那块板
成本与时间：这笔账怎么算
对采购方来说，最有用的换算方式不是"便宜多少"，而是"多久回本"。
假设你现在的推理集群以 H200 为主，每百万 token 的综合成本是基准 1.0。按厂商口径，换到天垓300 超节点后这个数字可能落到 0.6 左右。但真实迁移还要加上三块隐性成本：模型适配和算子重写的人力、双栈并行期的运维开销、以及性能不达预期时的回退方案。
一个务实的算法是：先拿你流量最大的一两个模型做影子部署，跑满一个完整业务周期，把实际 token 成本和故障率算出来，再谈规模化。这个验证周期通常是 4 到 8 周。
行动建议：下一步可以做什么
第一步，别急着看整机报价，先确认你的主力模型在不在对方已验证的清单里（GLM-5.3、Qwen3 系列、生成类模型优先）。
第二步，要一份完整的第三方实测报告，重点看测试条件和并发设置，而不是结论那一行的倍数。
第三步，如果条件允许，申请一台 8 卡整机做两周影子流量。真实业务的请求分布和 benchmark 差得很远，这一步省不掉。
第四步，把迁移成本折算进总账。硬件便宜 40%、适配多花三个月，账可能就反过来了。
写在最后
这次媒体开放日真正传递的信号，不是"国产卡比 H200 快 5%"，而是国产 GPU 开始愿意在公开场合接受同台实测，并且用单位 token 成本这种买方语言说话。
5% 的差距在工程上随时可能被部署方式、模型版本、驱动优化抹平或放大，它不是护城河。真正的变化在于叙事：从"我们也能做"到"我们这样算更便宜"，这中间隔着的是一整条软件栈和交付能力。
对普通读者来说，这件事的实用价值很简单——如果你所在的公司在做算力选型，现在桌面上多了一个可以要求实测数据的选项。这在两三年前是不存在的。
参考来源
- 经济观察网：《天垓300实测对标H200：国产GPU迈过关键性能门槛》2026-10-29
- 凤凰网科技（转快科技）：《国产GPU迈出一大步！天数智芯天垓300实测反超NVIDIA H200》2026-10-29
- 韩国联合뉴스（Yonhap）：中国 GPU 企业称产品实测性能超过英伟达 H200，2026-10-30
- 电子工程专辑（EET-China）：相关实测报道两篇，2026-10-29 / 2026-10-30