直接答案：2026 年 Serverless/按秒 GPU 的公开价大致是：RunPod 按需 A100 80GB 1.79/小时、H100 SXM 3.99/小时；RunPod Serverless A100 2.72、H100 5.39；Modal A100 80GB 0.000694/秒（2.50/小时）+ CPU/内存，H100 0.001097/秒（3.95/小时）+ CPU/内存；Replicate A100 80GB 0.0014/秒（5.04/小时，含 CPU/RAM）、H100 0.001525/秒（5.49/小时）。按 100/300/730 GPU-小时/月测算 A100：RunPod 按需 179/537/1,306.70；RunPod Serverless 272/816/1,985.60；Modal（GPU+4vCPU+16GiB）272.06/816.18/1,986.04；Replicate 504/1,512/3,679.20。结论：持续/可预测负载用 RunPod 按需最省；Serverless 里 Modal 的 A100 与 RunPod Serverless 基本同价、H100 更便宜；Replicate 每 GPU-小时最贵，但买的是模型市场/API 体验。按“实际活跃 GPU-小时”算，不要按自然月 730 小时默认常开。
本文面向做模型推理、微调、批处理、图像/视频生成和 Agent 后端的 AI 工程、平台与采购团队。资料截止 2026-11-07；价格取 RunPod Pricing、Modal Pricing、Replicate Pricing，按美元、未含税；所有 TCO 为编辑测算，不是厂商报价。三家的“按需/Serverless、GPU 型号、CPU/内存、冷启动/闲置”边界不同，本文把官方事实、编辑假设和不可比项分开写。
RunPod 按需：A100 1.79、H100 SXM 3.99；Serverless：A100 2.72、H100 5.39。Modal：A100 0.000694/秒、H100 0.001097/秒，另加 CPU/内存（4vCPU+16GiB 约 0.22/小时）；Starter 0 月费含 30 美元额度，Team 250/月含 100 美元额度。Replicate：A100 0.0014/秒（5.04/小时，含 10x CPU/144GB RAM）、H100 0.001525/秒（5.49/小时）、T4 0.000225/秒（0.81/小时）。持续负载按需最省；Serverless 按实际活跃秒计费。
三种计价：按需小时、按秒 Serverless、按秒含 CPU/RAM
RunPod：Pods 按需按小时（A100 PCIe/SXM 80GB 1.79、H100 PCIe 2.89、H100 SXM 3.99、A40 0.59、L40S 1.09、H200 5.29、B200 7.99）；Serverless 按秒/按小时（A100 2.72、H100 5.39、L40S 1.75、A6000/A40 1.22、16GB 档 0.58、H200 6.99、B200 10.79）。Modal：按秒计费，GPU A100 80GB 0.000694/秒（2.50/小时）、H100 0.001097/秒（3.95/小时）、T4 0.000164/秒（0.59/小时）、L40S 0.000542/秒（1.95/小时）；CPU 0.0000131/核/秒（约 0.047/核-小时）、内存 0.00000222/GiB/秒（约 0.008/GiB-小时）；Starter 0 月费 + 30 美元/月额度，Team 250/月 + 100 美元额度。Replicate：按秒硬件价，A100 80GB 0.0014/秒（5.04/小时，含 10x CPU、144GB RAM）、H100 0.001525/秒（5.49/小时）、T4 0.000225/秒（0.81/小时）、L40S 0.000975/秒（3.51/小时）。
| 平台/型号 | 计费 | A100 80GB | H100 80GB | 16GB/T4 档 | 说明 |
|---|---|---|---|---|---|
| RunPod 按需（Pods） | 每小时 | 1.79 | 3.99（SXM） | — | 持续/常开更省 |
| RunPod Serverless | 按秒/小时 | 2.72 | 5.39 | 0.58（16GB 档） | 按活跃秒计费 |
| Modal | 按秒 | 2.50 + CPU/内存 | 3.95 + CPU/内存 | 0.59（T4）+ CPU/内存 | Starter 0 + 30 额度 |
| Replicate | 按秒 | 5.04（含 CPU/RAM） | 5.49（含 CPU/RAM） | 0.81（T4） | 模型市场/API |
来源：RunPod Pricing、Modal Pricing、Replicate Pricing（美国站/美元，访问 2026-11-07）。Modal 的 GPU 价不含 CPU/内存（表中“+CPU/内存”），Replicate 的硬件价含表列 CPU/RAM，RunPod 的 Pods/Serverless 价按平台口径；未含税、存储、出站、模型/API 费、免费额度和承诺折扣。
A100 80GB：100/300/730 GPU-小时
按 A100 80GB、100/300/730 活跃 GPU-小时/月：RunPod 按需 179/537/1,306.70；RunPod Serverless 272/816/1,985.60；Modal（GPU+4vCPU+16GiB，约 2.7206/小时）272.06/816.18/1,986.04；Replicate 504/1,512/3,679.20。RunPod 按需最省；Modal 与 RunPod Serverless 几乎同价（差不到 0.5 美元）；Replicate 约为按需的 2.8 倍。若只是每天跑几小时/突发，按“活跃 GPU-小时”算，Serverless 的按秒计费和 scale-to-zero 更合适；若 730 小时常开，按需/预留更省。
| A100 80GB（小时/月） | RunPod 按需 | RunPod Serverless | Modal（含 CPU/内存） | Replicate |
|---|---|---|---|---|
| 100 | 179.00 | 272.00 | 272.06 | 504.00 |
| 300 | 537.00 | 816.00 | 816.18 | 1,512.00 |
| 730 | 1,306.70 | 1,985.60 | 1,986.04 | 3,679.20 |
编辑测算，不是报价。RunPod 按需 1.79/小时、Serverless 2.72/小时；Modal 0.000694/秒 GPU + 4vCPU/16GiB（2 物理核×0.0000131 + 16×0.00000222/秒 ≈ 0.00006172/秒，合计 0.00075572/秒 ≈ 2.7206/小时）；Replicate 0.0014/秒（5.04/小时）。未含税、存储、出站、模型/API 费、免费额度和承诺折扣。
H100 80GB：100/300/730 GPU-小时
按 H100 80GB：RunPod 按需（SXM）399/1,197/2,912.70；RunPod Serverless 539/1,617/3,934.70；Modal（GPU+4vCPU+16GiB，约 4.1714/小时）417.14/1,251.42/3,045.12；Replicate 549/1,647/4,007.70。RunPod 按需仍最省；Modal 比 RunPod Serverless 便宜约 22%（100 小时 417 vs 539），比 Replicate 便宜约 24%；Replicate 与 RunPod Serverless 接近，但 Replicate 含 CPU/RAM 和模型市场。H100 的绝对价差比 A100 更大，选错平台一年差几千美元。
| H100 80GB（小时/月） | RunPod 按需 | RunPod Serverless | Modal（含 CPU/内存） | Replicate |
|---|---|---|---|---|
| 100 | 399.00 | 539.00 | 417.14 | 549.00 |
| 300 | 1,197.00 | 1,617.00 | 1,251.42 | 1,647.00 |
| 730 | 2,912.70 | 3,934.70 | 3,045.12 | 4,007.70 |
编辑测算，不是报价。RunPod 按需 H100 SXM 3.99/小时、Serverless 5.39/小时；Modal 0.001097/秒 GPU + 4vCPU/16GiB ≈ 0.00006172/秒，合计 0.00115872/秒 ≈ 4.1714/小时；Replicate 0.001525/秒（5.49/小时）。未含税、存储、出站、模型/API 费、免费额度和承诺折扣。
16GB/T4 档：小模型/图像推理
低端 16GB 档：RunPod Serverless 16GB（A4000/A4500/RTX 4000/RTX 2000）0.58/小时 → 58/174/423.40；Modal T4（+4vCPU+16GiB，约 0.8126/小时）81.26/243.78/593.20；Replicate T4 0.81/小时 → 81/243/591.30。低端档 RunPod 明显便宜；Modal 与 Replicate 几乎同价。注意 16GB 档的 GPU 型号/显存/算力不完全等价（T4 vs A4000/A4500/RTX 4000），要按模型显存/吞吐校准，不能只看“16GB”。
| 16GB/T4（小时/月） | RunPod 16GB 档 | Modal T4 | Replicate T4 |
|---|---|---|---|
| 100 | 58.00 | 81.26 | 81.00 |
| 300 | 174.00 | 243.78 | 243.00 |
| 730 | 423.40 | 593.20 | 591.30 |
编辑测算，不是报价。RunPod Serverless 16GB 档 0.58/小时（A4000/A4500/RTX 4000/RTX 2000）；Modal T4 0.000164/秒 + 4vCPU/16GiB ≈ 0.00006172/秒，合计 0.00022572/秒 ≈ 0.8126/小时；Replicate T4 0.000225/秒（0.81/小时，含 4x CPU/16GB RAM）。显存/算力不完全等价，未含税、存储、出站、模型/API 费和承诺折扣。
什么场景选哪种？
持续/常开、追求最低每 GPU-小时：RunPod 按需（A100 1.79、H100 SXM 3.99）；突发/按秒/要 scale-to-zero、用 Modal 生态：Modal（A100 约 2.72、H100 约 4.17，含 CPU/内存）；要 RunPod 的 Serverless API/端点、按秒计费：RunPod Serverless；要模型市场/现成 API、不想自己部署：Replicate；低端 16GB 小模型：RunPod 16GB 档 0.58 最便宜；企业合规/预留/承诺：三家都可谈。注意：按“实际活跃 GPU-小时”算，不要默认 730 小时常开；冷启动、排队、存储/出站和模型/API 费都要算。
| 场景 | 首选 | A100/H100（美元/小时） | 先核对 |
|---|---|---|---|
| 持续/常开 | RunPod 按需 | 1.79 / 3.99 | 可用区/库存/预留 |
| 突发/按秒/scale-to-zero | Modal | 约 2.72 / 4.17（含 CPU/内存） | 冷启动/并发/额度 |
| Serverless API/端点 | RunPod Serverless | 2.72 / 5.39 | 冷启动/限流/存储 |
| 模型市场/现成 API | Replicate | 5.04 / 5.49 | 模型价/延迟/配额 |
| 16GB 小模型 | RunPod 16GB 档 | 0.58 | 显存/算力/模型 |
| 企业合规/预留 | 三家合同 | 定制 | SLA/合规/承诺 |
来源：三家官方定价页（访问 2026-11-07）。表为编辑决策矩阵，不是厂商建议；未验证吞吐、冷启动、排队、可用性、SLA、显存/算力等价和迁移成本。
采购与验收要写清什么？
至少写清十件事：模型/显存、GPU 型号/数量、月活跃 GPU-小时、峰值并发、冷启动/排队、CPU/内存、存储/模型缓存、出站、SLA/合规、合同/预留。POC 用 2–4 周真实推理记录 GPU-小时、冷启动、吞吐、失败率、存储/出站和账单；不要只比“每 GPU-小时”。
- 模型：参数量/显存、精度、批大小、上下文长度。
- GPU：A100/H100/L40S/T4、单卡/多卡、可用区。
- 用量：月活跃 GPU-小时、峰值、空闲比例。
- 冷启动：首次加载、模型缓存、预热、排队。
- CPU/内存：是否含在 GPU 价、超配/不足。
- 存储：模型/数据/缓存、卷、跨区。
- 出站：API 响应/下载、CDN、跨区。
- SLA/合规：uptime、数据驻留、审计、SOC2。
- 合同：按秒/按小时、预留/承诺、续费。
- POC：2–4 周真实推理；GPU-小时、冷启动、吞吐、失败率和账单。
常见问题
哪家最便宜？
按 GPU-小时：RunPod 按需最便宜（A100 1.79、H100 SXM 3.99）；Serverless 里 Modal A100 约 2.72、H100 约 4.17，RunPod Serverless 2.72/5.39，Replicate 5.04/5.49。低端 16GB：RunPod 0.58 最低；Modal/Replicate T4 约 0.81。
为什么 RunPod Serverless 比按需贵？
按需 Pods 是长期占用实例的批发价；Serverless 按秒计费、自动扩缩、按请求计费，平台把调度/冷启动/闲置容量成本摊进单价。持续常开用按需，突发/低频用 Serverless。
Modal 的 GPU 价含 CPU/内存吗？
不含。Modal GPU 价只含 GPU，CPU 0.0000131/核/秒、内存 0.00000222/GiB/秒另计。本文按 4vCPU（2 物理核）+16GiB 估算约 0.22/小时，A100 合计约 2.72、H100 约 4.17；实际按你的 CPU/内存配比。
Replicate 为什么最贵？
Replicate 的硬件价含表列 CPU/RAM（A100 10x CPU/144GB RAM、H100 13x CPU/144GB RAM），并带模型市场/现成 API/托管体验；如果你只要裸 GPU，RunPod/Modal 更便宜；如果你不想部署模型、要现成 API，Replicate 的溢价可能值得。
100/300/730 小时怎么选？
730 小时是常开；100/300 是每天 3–10 小时的活跃量。按实际活跃 GPU-小时算，不要默认常开。常开选 RunPod 按需/预留；突发选 Modal/RunPod Serverless；Replicate 适合按模型/API 调用而非长期占卡。
冷启动/闲置怎么算？
Serverless 按活跃秒计费，闲置不付 GPU；但冷启动会增加延迟，可能触发更多实例/重试。按需 Pods 常开，闲置也付小时费；如果利用率低，Serverless 更省；利用率高，按需更省。
还有哪些隐藏成本？
存储/模型缓存、出站、CPU/内存超配、冷启动/重试、模型/API 费、支持/SLA、合规/审计、迁移/双跑和税。Replicate/Modal 的模型/API 费与硬件费可能分开；RunPod 的存储/网络也另计。
怎么选、怎么验收？
持续/常开选 RunPod 按需；突发/scale-to-zero 选 Modal；要 Serverless 端点选 RunPod Serverless；要模型市场选 Replicate；16GB 小模型看 RunPod 0.58。POC 用 2–4 周真实推理记录 GPU-小时、冷启动、吞吐、失败率和账单。
研究方法与局限
本文把“官方事实”和“编辑测算”分开：RunPod 的按需 A100 1.79/H100 SXM 3.99、Serverless A100 2.72/H100 5.39、16GB 档 0.58 来自 RunPod Pricing；Modal 的 A100 0.000694/秒、H100 0.001097/秒、T4 0.000164/秒、CPU 0.0000131/核/秒、内存 0.00000222/GiB/秒、Starter/Team 额度来自 Modal Pricing；Replicate 的 A100 0.0014/秒、H100 0.001525/秒、T4 0.000225/秒（含 CPU/RAM）来自 Replicate Pricing。TCO 是按 100/300/730 GPU-小时和 4vCPU/16GiB 假设做的算术，不是任何一家报价。
局限有八个：① 只取美国站公开 list price，未含税、承诺/预留/企业折扣、免费额度和地区差异；② 只算 GPU/CPU/内存，未含存储、出站、模型/API 费、支持和迁移；③ Modal 的 CPU/内存按 4vCPU/16GiB 估算，实际配比会改变合计；④ RunPod 的 16GB 档是 A4000/A4500/RTX 4000/RTX 2000，与 T4 不完全等价；⑤ 未验证吞吐、冷启动、排队、可用性、SLA 和显存/算力；⑥ 未纳入 AWS/GCP/Azure GPU、Lambda/Fargate、其他 Serverless GPU 厂商；⑦ 未计迁移、模型转换、缓存/预热和双跑；⑧ 价格与条款可能随合同、区域、汇率变化。采购决策应把本文当“每 GPU-小时换算模板”，用 2–4 周真实推理 POC 替换假设。
数据来源与口径
- RunPod, Pricing：runpod.io/pricing。按需 A100 1.79、H100 SXM 3.99、A40 0.59、L40S 1.09；Serverless A100 2.72、H100 5.39、L40S 1.75、16GB 档 0.58、H200 6.99、B200 10.79。访问 2026-11-07。
- Modal, Pricing：modal.com/pricing。A100 80GB 0.000694/秒、H100 0.001097/秒、T4 0.000164/秒、L40S 0.000542/秒；CPU 0.0000131/核/秒、内存 0.00000222/GiB/秒；Starter 0 月费 + 30 美元额度、Team 250/月 + 100 美元额度。访问 2026-11-07。
- Replicate, Pricing：replicate.com/pricing。A100 80GB 0.0014/秒（5.04/小时，含 10x CPU/144GB RAM）、H100 0.001525/秒（5.49/小时）、T4 0.000225/秒（0.81/小时）、L40S 0.000975/秒（3.51/小时）。访问 2026-11-07。
资料截止 2026-11-07；价格为公开 list price，未含税；所有 TCO 均为编辑测算。本文不构成采购建议。