摘要：IBM与Together AI签署2.4亿美元多年期协议，在IBM Cloud部署NVIDIA HGX B300推理集群，预计2027年Q1上线。这是IBM Cloud首个基于HGX B300的大规模专用推理集群，瞄准企业开源AI推理需求。

IBM在当地时间8月11日宣布了一笔2.4亿美元的订单，客户是AI云平台Together AI。IBM要在自己的云上给Together AI部署一个NVIDIA HGX B300集群，专门跑开源模型的推理服务，系统预计2027年第一季度上线。

这不是一笔普通的算力租赁。IBM自己说得很清楚——这是IBM Cloud上第一个基于HGX B300系统和Spectrum-X以太网技术构建的、专用于推理的大规模集群。

Together AI是谁？这家公司2022年才成立，今年7月刚完成8亿美元C轮融资，投后估值83亿美元。平台上整合了DeepSeek、MiniMax、Kimi等主流开源模型，提供无服务器推理、专属基础设施和批量推理服务。官方披露的数据是月处理token量400万亿——这个量级意味着每天有海量的推理请求在跑。

Together AI选择IBM而不是AWS或Azure，原因说出来挺实在：产品蓝图和对上，以及IBM能在AI快速扩展所需的节奏下交付GPU容量。说白了，大厂排队太长，IBM能接住。

对IBM来说，这事的意义不只是2.4亿美元的收入。IBM Cloud在公有云市场一直被AWS、Azure、Google Cloud压着打，规模上根本没法硬拼。但Together AI这种AI原生云平台需要的不是泛用型的云服务，是能把GPU集群快速搭起来、跑起来的基础设施。IBM用这笔订单证明了一件事：我能接住AI推理这种高密度工作负载。

硬件层面，HGX B300是NVIDIA Blackwell架构的产品，单基板提供144 petaflops处理能力，GPU间带宽1800GB/s，总聚合带宽14.4TB/s。每个GPU配288GB HBM3E内存，单节点总容量超2TB。相比上一代Hopper，LLM推理速度提升11倍、计算性能提升7倍、内存容量扩大4倍。加上Spectrum-X以太网，整套系统就是冲着推理吞吐量去的。NVIDIA宣称这套配置比前代产品多30倍的AI工厂产出——当然没说具体对标什么。

这笔交易背后有个更大的趋势。推理正在成为AI算力需求的最大驱动力。训练一个模型烧一次钱，推理是每天都在烧。企业现在开始算账了：开源模型和闭源模型在特定任务上的表现差距在缩小，但价格差距天差地别。DeepSeek-V4每百万输出token成本约87美分，大约是OpenAI和Anthropic前沿模型定价的三十分之一。瑞银的调查显示60%的企业已经给AI支出设了上限。

Together AI的CEO Vipul Ved Prakash原话是：“企业想要前沿模型的性能，但不想承担闭源模型的高昂价格，这只有底层基础设施快速、可靠且能大规模部署才能实现”。

IBM在这个节点切进去，时机不算早，但卡的位置还算准。开源推理这条赛道上，CoreWeave、Lambda Labs这些“新云”已经跑了一阵，但企业客户对IBM这种老牌厂商的合规、安全、治理能力有天然的信任感。IBM在GTC 2026上已经宣布过要在IBM Cloud推出Blackwell Ultra GPU，这次是直接把订单落实了。

2.4亿美元，2027年上线。对IBM来说这是一张进入AI推理基础设施市场的门票。对Together AI来说，这是一条绕开超大规模云厂商的扩容通道。

至于这套集群上线之后能不能跑出预期的性价比，那是2027年的事了。