在 18.4 节完成成本核算后，很多团队会面临一个灵魂拷问：这笔钱到底是按小时付给云厂商，还是一次性砸进机房和显卡里，抑或是找第三方算力租赁商“按月包机”？这三种模式不是简单的“谁便宜选谁”，而是涉及资产属性、数据主权、工程能力和战略意图的系统性决策。选错模式，轻则浪费 30% 以上预算，重则导致项目因合规或供应链问题停摆。
一、三种模式的精确定义
在对比之前，先消除概念模糊。业内常把“算力租赁”和“公有云”混为一谈，但它们在产权、交付形态和约束条件上差异极大。
| 模式 | 核心定义 | 典型交付形态 |
|------|----------|--------------|
| 公有云（Public Cloud） | 云厂商拥有硬件产权，以虚拟化或容器化实例形式按量/包周期售卖算力，配套完整的 PaaS/MaaS 平台。 | AWS P4d/Azure NDv5/阿里云 GN7/GH001 等 GPU 实例；Serverless 推理服务（如 Amazon Bedrock）。 |
| 私有算力中心（Private DC） | 企业自购服务器、网络与基础设施，部署在自建机房或托管数据中心（Colocation），拥有完全硬件产权与软件栈控制权。 | 自建 A100/H100 千卡集群；在运营商 IDC 租机柜但自购设备；企业园区内智算中心。 |
| 算力租赁（Bare-metal / GPU Cloud Leasing） | 算力供应商（非传统云厂商）拥有硬件产权，以裸金属服务器或整机柜形式按月/按年租赁给企业，通常不捆绑上层云平台。 | 智算中心整机柜月租；裸金属 GPU 云（如 Lambda、CoreWeave 模式）；国内地方政府智算中心的长期租赁位。 |
关键区别：公有云卖的是“资源切片 + 平台服务”；算力租赁卖的是“整机的物理使用权”；私有算力中心卖的是“资产沉淀 + 完全控制”。
二、七维选型对比
以下是从真实项目中提炼的七个核心维度。建议你根据团队现状逐项打分。
| 对比维度 | 公有云 | 私有算力中心 | 算力租赁 |
|---------|--------|-------------|----------|
| 初始投入（CAPEX） | 极低，零硬件采购 | 极高，机柜+服务器+网络一次性投入 | 低，通常只需支付 1–3 个月押金 |
| 长期成本（3–5 年 TCO） | 高，按量/包年单价溢价明显，适合短期 | 低（若利用率 >60%），规模效应显著 | 中，月租累积可观，但无残值风险 |
| 交付周期 | 分钟级开通，秒级扩缩容 | 数月（供应链+机房建设+上架调试） | 天级到周级（取决于供应商库存） |
| 弹性与峰值应对 | 极强，适合脉冲训练或突发推理流量 | 极差，扩容意味着重新采购和布线 | 弱到中等，通常需提前约定扩容窗口 |
| 数据安全与合规 | 依赖云厂商隔离方案，金融/政务敏感数据受限 | 最高，物理隔离、可控可审计 | 中，取决于供应商机房等级与合同约束 |
| 自主可控与定制 | 低，受限于云厂商镜像、驱动、网络拓扑 | 完全自主，可定制网络、存储、调度 | 中，裸金属可自定义软件栈，但硬件不可改 |
| 运维复杂度 | 低，云厂商兜底硬件故障与基础运维 | 极高，需自建运维、供应链、备件库 | 中，供应商负责硬件维修，但上层仍需自管 |
三、成本深潜：别让“单价”骗了
选型时最容易犯的错，是拿公有云的小时单价去和私有算力中心的“折旧后小时成本”做简单对比。真实的财务模型需要拆细：
1. 公有云的隐性成本
- 出口流量费：大模型训练中 Checkpoint 频繁上传下载，对象存储（S3/OSS）的 API 请求费与 egress 流量费往往占云账单的 15%–25%。
- 存储溢价：高性能并行文件系统（如 Lustre on Cloud）的每 GB 成本远高于自建。
- 推理弹性税：自动扩缩容确实省机时，但冷启动延迟和镜像拉取时间可能损害用户体验，为抵消延迟而预留的 buffer 实例，实际上在持续烧钱。
适用阈值：如果你每月 GPU 机时需求 < 5,000 小时（约 7 张 A100 跑满一个月），公有云通常更划算；超过此阈值，私有或租赁模式开始显现成本优势。
2. 私有算力中心的隐性成本
- 资金占用与折旧：A100/H100 服务器采购后 3–5 年即面临淘汰，残值极低。若用美元贷款或融资租赁，需把资金成本算进 TCO。
- 机房配套：电力改造、液冷管路、UPS、消防、安防，这些“非 IT 投资”往往占硬件成本的 30%–50%（参考 19.4 节）。
- 空转损耗：大模型训练任务常呈间歇性（实验期密集、上线后转推理）。私有集群在低利用率时段的折旧不会停止。
- 人力成本：一个千卡集群至少需要 2–3 名 AI Infra 工程师 + 1 名网络工程师 + 1 名硬件运维，年薪支出不可忽视。
盈亏平衡点：通常需要集群年利用率稳定在 60% 以上，且训练任务持续 2 年以上，私有建置的 TCO 才能跑嬴公有云。
3. 算力租赁的“甜蜜陷阱”
算力租赁看似折中，但需注意：
- 锁定价与现货价：部分智算中心提供“包年锁定价”，价格可能低于公有云包年，但中途退租违约金高；也有“ spot/竞价实例”，价格低但随时可能被收回（不适合长周期训练）。
- 网络拓扑不透明：租赁节点是否在同一 RACK、是否共享 IB 交换机，会直接影响分布式训练性能。如果供应商把 8 节点分散在不同机房，你的多机并行可能不如单机。
- 合规灰色地带：部分低价算力来自二手卡或海外渠道，存在被制裁清单波及、驱动/固件无法升级的风险。
四、决策树：你适合哪条路？
根据真实业务场景，我们给出一个可直接套用的决策框架：
第一步：确认数据主权红线
- 数据是否涉及国家秘密、核心金融交易明细、未上市生物医药原始数据？
- 是 → 优先考虑私有算力中心（或国资背景的专属云）。
- 否 → 进入第二步。
第二步：确认任务持续性与规模
- 未来 12 个月，是否需要 >50 张 H100/A100 等效算力连续满负荷运行？
- 是，且持续 2 年以上 → 进入私有算力中心可行性评估（见 18.3 节规模分级）。
- 是，但只持续 3–6 个月（如预训练一个大版本后转维护） → 优先考虑算力租赁。
- 否，或需求波动极大（如仅周期性微调、推理峰谷明显） → 优先考虑公有云，或“公有云推理 + 租赁训练”的混合模式。
第三步：确认团队工程能力
- 是否有能力自建 NCCL 调优、IB 网络排障、GPU 备件库存管理？
- 否 → 即使规模够大，也建议先走公有云或寻找提供“全托管租赁”的服务商，避免集群到手却跑不满 MFU（算力利用率）。
- 是 → 私有算力中心的长期收益才能兑现。
第四步：确认资本策略
- 公司当前阶段是否希望将支出计入 OPEX（运营费用） 而非 CAPEX（资本支出）？（对上市公司或需要轻资产报表的初创企业尤其重要）
- 希望 OPEX 化 → 公有云或算力租赁。
- 可接受 CAPEX，且有固定资产退税/补贴 → 私有算力中心（国内多地智算中心享有能耗或建置补贴）。
五、混合模式：当前最务实的选择
在 2024 年的工程实践中，“非此即彼”的选型已经少见。更成熟的策略是分层解耦：
| 层级 | 推荐模式 | 理由 |
|------|----------|------|
| 早期实验 / 轻量微调 | 公有云开发机（1–8 卡） | 快速验证，无需等待采购 |
| 大规模预训练 / 周期性重训 | 私有集群 or 长期租赁裸金属 | 高利用率下成本最优，网络可控 |
| 线上推理（弹性流量） | 公有云 Serverless / 自动扩缩容集群 | 应对突发流量，避免空转 |
| 冷数据存储 / 日志备份 | 公有云对象存储 | 极低单价，无限扩展 |
| 数据合规敏感任务 | 私有集群专属分区 | 物理隔离 |
这种“云-租-建”分层架构，既控制了重资产风险，又保障了核心环节的自主权。它也是 20.3 节讨论 Kubernetes 跨云调度与混合集群管理时的现实背景。
六、小结
公有云、私有算力中心与算力租赁之间，没有绝对优劣，只有与业务阶段、数据合规、资金结构和团队能力的匹配度。
- 公有云：为速度和弹性付费，适合探索期、推理可变负载和缺乏运维团队的企业。
- 私有算力中心：为长期主权和规模效应投资，适合 AI 原生企业、大型金融机构和政府主导的行业大平台。
- 算力租赁：为确定性周期和 CAPEX 规避而存在的中间态，适合有明确训练窗口、希望保留软件栈控制权的团队。
完成 18.1–18.5 的需求评估与模式选型后，如果你决定走向私有化或大规模租赁，接下来将进入第 19 章——算力中心硬件架构设计。从服务器选型、网络拓扑到液冷散热，工程细节将决定你投入的每一分钱是否转化为了有效的 FLOPS。