算力
租一块 GPU,一小时多少钱。
每个 token 背后的原材料:在云平台、GPU 云和集市上租一块 GPU 一小时的价格。规则和 token 指数一样:每个数字都出自存档的快照,记录只增不改。
GPU 小时参考价试行各家供应方“一块 GPU 一小时”按需价的中位数。 怎么算的
| GPU | 显存 | 按需最低 | 按需最高 | 各类最低 | 集市中位价 | 供应方 |
|---|---|---|---|---|---|---|
| NVIDIA B300Blackwell Ultra 一代,数据中心级 | 268 GB | 9.99Together AI | 17.80AWS | 4.588CoreWeave · 竞价 | — | 3 |
| NVIDIA B200Blackwell 一代,数据中心级 | 180 GB | 5.98RunPod 社区云 | 16.11Google Cloud | 4.09Together AI · 竞价 | 10.6318 个挂单 | 8 |
| NVIDIA H200Hopper 一代,数据中心级 | 141 GB | 3.59RunPod 社区云 | 10.60Microsoft Azure | 2.58CoreWeave · 竞价 | 4.84118 个挂单 | 8 |
| NVIDIA H100Hopper 一代,数据中心级 | 80 GB | 1.99RunPod 社区云 | 12.29Microsoft Azure | 1.418Microsoft Azure · 竞价 | 1.86821 个挂单 | 9 |
| NVIDIA A100 80GBAmpere 一代,数据中心级 | 80 GB | 1.19RunPod 社区云 | 5.028Google Cloud | 0.679Microsoft Azure · 竞价 | 0.84435 个挂单 | 7 |
| NVIDIA L40S数据中心级,推理与图形 | 48 GB | 0.79RunPod 社区云 | 3.766AWS | 0.774Vast.ai · 集市(要价中位数) | 0.77434 个挂单 | 5 |
| NVIDIA RTX 5090消费级显卡,在 GPU 云和集市上出租 | 32 GB | 0.69RunPod 社区云 | 1.39RunPod 安全云 | 0.584Vast.ai · 集市(要价中位数) | 0.58464 个挂单 | 3 |
| NVIDIA RTX 4090消费级显卡,在 GPU 云和集市上出租 | 24 GB | 0.34RunPod 社区云 | 0.89RunPod 安全云 | 0.34RunPod 社区云 · 按需 | 0.50164 个挂单 | 3 |
| NVIDIA V100 32GBVolta 一代,数据中心级 | 32 GB | 3.901AWS | — | 0.39AWS · 竞价 | — | 1 |
| NVIDIA T4Turing 一代,推理 | 16 GB | 0.526AWS | 0.978AWS | 0.209AWS · 竞价 | — | 1 |
中国大陆,人民币价
国内云的货架和海外不一样:最新的 NVIDIA 显卡不能出口到中国,同样的钱买到的是更早的型号。这里是人民币标价,按公布的原样显示,不换算,所以和美元价并排放,而不是混在一起比。
| GPU | 显存 | 按需最低 | 按需最高 | 最低价机型的库存 |
|---|---|---|---|---|
| NVIDIA L20数据中心级,面向中国市场的型号 | 48 GB | ¥14.41阿里云 · ebmgn8is | ¥23.94 | 无货 |
| NVIDIA A10Ampere 一代,推理与图形 | 24 GB | ¥9.53阿里云 · gn7i | ¥13.31 | 4 个可用区中 2 个有货 |
| NVIDIA V100 32GBVolta 一代,数据中心级 | 32 GB | ¥19.74阿里云 · gn6e | — | 5 个可用区中 5 个有货 |
| NVIDIA V100Volta 一代,数据中心级 | 16 GB | ¥26.46阿里云 · gn6v | — | 无货 |
| NVIDIA T4Turing 一代,推理 | 16 GB | ¥11.63阿里云 · gn6i | ¥17.19 | 6 个可用区中 2 个有货 |
同一块 GPU,各家差多少
怎么看
每个点是一家供应方“一块 GPU 一小时”最便宜的按需价。横线从零画到这种 GPU 最贵的那家,所以同一行里点和点的间距是按比例的。
我们正在做一个算力交易所。 它会是什么样,以及候补名单 →
怎么看这些价格
- 一块 GPU,一小时
- 所有价格都是一块 GPU 用一小时的美元价。云平台卖的是整机,这里按整机价除以机器里的 GPU 数量,所以它的数字里还包含了配的 CPU、内存和硬盘;GPU 云和集市通常按 GPU 计价,配的机器更小。两边可以比,但不完全一样。
- 价格的种类
- 按需:现在开,随时停。竞价:更便宜,但供应方可以随时收回机器。预留:承诺用一年或三年,这里折成每小时。集市:我们查看时集市上各主机要价的中位数;它一直在变,各主机的可靠性也不一样。
- 数据从哪来
- 公开的价目表和 API,每天抓取一次并连同哈希存档。我们没有购买,也没有实测:这些是要价,不是账单,也没有核实有没有货。
- 还没收录的
- Google Cloud、Together 和国内几家云正在接入。合同价和谈下来的折扣不公开,这里没有。
完整数据可下载为 JSON。 发现错误请写信: hello@auramatrix.ai