一张H100显卡,租还是买?
2026年,一张NVIDIA H100显卡的市场价约2.5万美元(约18万人民币),一台8卡H100服务器约20万美元。对于一家AI创业公司来说,这意味着一笔不小的投入——买两台服务器就要40万美元,够烧半年。
但GPU租赁市场在2026年发生了剧变。2025年,租用一张H100显卡的价格约2.5美元/小时。2026年,这个价格降到了约1.5美元/小时——一年降了40%。这意味着,如果你每天使用8小时,租一张H100一年的成本约4400美元,而买一张H100的价格是2.5万美元。租比买便宜了80%以上。
更关键的是,2026年算力市场不再是"买不到GPU"的卖方市场,而是"挑花眼"的买方市场。NVIDIA的产能大幅提升,AMD的MI300系列开始抢市场份额,华为昇腾910C完成了5nm量产,连Google和Amazon都在用自研芯片提供算力租赁服务。GPU供给的极大丰富,正在重塑整个AI算力经济。
2026年算力云平台格局
第一梯队:云计算三巨头。 AWS(Trainium2和NVIDIA H100)、Azure(NVIDIA H100和AMD MI300X)、Google Cloud(TPU v5和NVIDIA H100)仍然是算力租赁的最大玩家。2026年,三大云厂商的AI算力租赁收入合计超过400亿美元,同比增长约60%。它们的优势是:算力充足、生态完善、企业级SLA保障。劣势是:价格不是最低的。
第二梯队:算力新贵。 Lambda Labs、CoreWeave、Vast.ai、RunPod等专业GPU云平台在2026年快速增长。它们的价格普遍比三大云厂商低20-40%,而且提供更灵活的计费方式(按分钟、按秒计费)。CoreWeave在2026年Q1的营收突破30亿美元,估值超过300亿美元,成为AI算力租赁领域最大的"黑马"。
第三梯队:去中心化算力。 Akash Network、Render Network、io.net等去中心化算力平台在2026年开始崭露头角。它们通过聚合全球闲置GPU资源(矿工、游戏玩家、小型数据中心),提供极其便宜的算力——价格可以低至传统云厂商的20%-30%。但稳定性和可靠性仍然是去中心化算力的软肋。
中国市场:异构算力百花齐放。 华为云(昇腾910C)、阿里云(含光800+和平头哥自研芯片)、百度云(昆仑芯)、字节跳动(火山引擎自研芯片)都在2026年提供了大规模算力租赁服务。华为昇腾910C的算力租赁价格约为NVIDIA H100的60%,在国产替代政策的推动下,在政府和国企市场占据了主导地位。
租vs买:2026年的决策框架
什么时候租? 如果你的AI工作负载是"间歇性"的(比如每天只用4-8小时,或者每周只训练几次模型),租GPU远优于买GPU。如果你的需求是"短期"的(比如做一个3个月的AI项目),租GPU是唯一合理的选择。如果你的需求是"不确定"的(还不确定AI产品能否跑通PMF),租GPU可以让你在不确定性中保持灵活性。
什么时候买? 如果你的AI工作负载是"持续"的(每天24小时满载运行),买GPU可能比租GPU更划算。以H100为例,如果每天使用24小时,租一年的成本约1.3万美元,买一张的成本是2.5万美元。买GPU的"回本周期"大约是2年。如果你的需求是"长期"的(至少2年以上),且利用率高(超过70%),买GPU可能更经济。
混合策略。 2026年,最聪明的AI公司采用"混合策略":核心的、持续的工作负载用自己的GPU(或长期租赁合同),突发的、间歇的工作负载用云GPU。这种策略兼顾了"成本"和"灵活性"。
2026年算力采购的三个陷阱
陷阱一:只看价格,不看"真实性能"。 不同云平台的"同一张H100"性能差异可能达到20-30%。原因在于:网络带宽(GPU之间的互联速度)、存储IOPS(数据加载速度)、虚拟化损耗(多少性能被虚拟化层吃掉)。不要只看"每小时多少钱",要看"每TFLOPS多少钱"。
陷阱二:忽略了"迁移成本"。 在不同云平台之间迁移AI工作负载的成本很高——需要适配不同的API、不同的存储系统、不同的网络配置。选择一个云平台后,切换成本很高。所以在选择时要考虑"长期锁定"效应。
陷阱三:低估了"运维成本"。 如果你选择买GPU自建服务器,你需要考虑运维成本——电力(一台8卡H100服务器功率约10kW,一年电费约8万元)、冷却(GPU服务器需要专业散热方案)、运维人员(至少需要0.5-1个工程师)。这些隐性成本加起来,可能让"自建"的性价比优势消失。
算力市场的"去NVIDIA化"趋势
2026年算力市场最关键的变化是"去NVIDIA化"——越来越多的AI推理工作负载不再需要NVIDIA GPU。AMD的MI300系列在推理场景下性能接近H100,但价格只有60%。Google的TPU v5在Gemini模型的推理上性能优于H100。华为昇腾910C在国产政策驱动下,在政府、金融、电信等行业的推理场景中大规模部署。
对于AI公司来说,2026年最重要的算力决策不是"租还是买",而是"是否一定要用NVIDIA"。如果你的AI工作负载是"推理"(而非"训练"),在非NVIDIA芯片上运行可能可以节省50-70%的算力成本。NVIDIA的CUDA生态仍然是训练领域的护城河,但在推理领域,这个护城河正在被快速填平。