租算力的报价单看多了会发现，计费方式基本就三种，而它们对应的是三种完全不同的负载形态。选错方式的浪费，通常远大于选错供应商。

三种计费，三种场景

按卡时（按小时计费）

你独占一张或多张卡，只要开机就计费。

适合：训练、微调这类长时间、满负载、可以计划的任务。这类任务的特点是 GPU 利用率能跑到很高，独占才划算。

不适合：断续的小批量推理——利用率 20% 的时候，你付的是 100% 的钱。

按 token / 按调用量

不碰机器，直接调推理服务，按实际消耗付费。

适合：波动大、有峰谷、或者压根不确定有没有量的场景。冷启动阶段尤其合适——没有量就没有成本。

不适合：量大了之后单价偏高，且你对延迟和并发的控制力弱。

包月 / 预留

承诺一定时长或一定规模，换折扣。

适合：负载稳定且可预测。跑起来之后如果发现 7×24 都在用，回头算一下包月通常能省一截。

不适合：还在验证阶段的项目——锁死了就退不出来。

判断方法：先看利用率曲线

选型前先问自己一个问题：你的 GPU 平均利用率大概是多少？

• 持续 70% 以上 → 独占卡时最经济；
• 低于 30% 且断续 → 按量付费；
• 稳定且长期 → 谈包月或预留。

这个数字不难估：先按量跑两周，把利用率记下来再决定。很多人反过来做——先包月再想怎么填满，结果一直在为空闲付费。

隐藏成本才是大头

账单里 GPU 那一栏往往不是最坑的部分，下面这几项才是：

存储。数据集、 checkpoint、日志。训练产生的 checkpoint 尤其夸张——一个几十 GB 的 checkpoint 存几十份，存储费用会超过算力。要定保留策略：只留 best 和最近 N 个。

出网流量。下载模型、拉取数据集、把结果传走，都可能单独计费。跨区域尤其贵，尽量让存储和算力在同一区域。

数据搬运的时间。几百 GB 数据传几个小时，那几个小时机器是开着的——算的是你的钱。

闲置。忘了关机是最常见的浪费。租了卡跑完没释放，一晚上就没了。

建议：所有按量资源都配上自动释放或闲置告警，这是投入产出比最高的一条措施。

选型清单

除了价格，还要确认这些：

• 卡型与显存：显存比算力更容易成为瓶颈，先按《本地跑大模型》那篇的公式估一下；
• 多卡互联：多卡训练时，卡间带宽（NVLink 之类）直接决定扩展效率；
• 是否支持你需要的功能：某些算子、某些精度、某些框架版本；
• 释放是否即时：能不能用完立刻释放、按秒还是按小时计费；
• 是否有现货：热门卡型经常缺货，会影响排期；
• 数据合规：数据能否出网、存在哪个区域，这条对有合规要求的团队是硬约束。

小结

选算力租赁，先想清楚负载形态，再选计费方式：训练用卡时、波动用按量、稳定用包月。

然后务必把隐藏成本算进去——存储、出网流量和闲置，这三样加起来经常超过 GPU 本身的费用。配上自动释放和 checkpoint 保留策略，能省掉大部分意外支出。

延伸阅读：本站另有《2026 年 10 月，AI 与算力这个月发生了什么》，可了解当前算力市场的整体动向。