摘要:OpenAI 发文详解 Habitat 在线存储平台,现每秒处理超 7000 万请求、服务每周超 10 亿用户、管理超 500PB 数据。

OpenAI 发了一篇(系列上篇),把支撑 ChatGPT 的在线存储平台 Habitat 摊开来讲。数字很吓人:现在每秒处理超过 7000 万请求,服务每周超过 10 亿用户,管理超过 500PB 数据,覆盖近 40 个地区。对大部分工程师来说,这种量级的存储系统,光是「别在峰值崩」这一条,就够喝一壶了。

Habitat 要解决的本质问题,是「十亿用户同时往我这里读写各种碎片」:聊天记录、附件、生成结果、用户设置,全都是小而有状态、还要低延迟。这类负载既不像纯对象存储那么冷,也不像数据库那么规整,是典型的多租户、高扇出、强一致与最终一致混用的烂摊子。OpenAI 把它单独做成平台,说明「模型聪明」之外,能稳稳兜住十亿人的状态,才是产品能用的地基。

13-openai-habitat.jpg

文章值得工程团队读的,是它怎么在成本和延迟之间做取舍。500PB 不是堆硬盘就完事——跨 40 个地区意味着数据要就近、要容灾、要合规,复制链路一长延迟就上来了。每秒 7000 万请求意味着热点 key、缓存命中率、写放大每一个细节都会被放大成真金白银。Habitat 的演进思路,核心是「分层 + 就近 + 异步化」:热数据贴着用户,冷数据往便宜处沉,能异步的绝不阻塞主链路。

对做 AI 应用的团队,Habitat 是个提醒:很多人盯着模型选型,却低估了「状态管理」这一层的难度。一个 Agent 跑长任务,要记得上下文、要存中间产物、要断点续跑——这些全压在存储上。Habitat 这种级别的平台能力,正是 OpenAI 敢于把 GPT-6 Astra 往专业场景推的底气之一:模型再强,状态存不住、取不快,体验照样垮。

这篇只是上篇,重点在「演进与规模」。后续若讲一致性协议、跨区域复制、故障演练,会更硬核。对国内做 AI 基础设施的团队,Habitat 是一面尺子:你的存储平台,准备好接「亿级日活 + 长上下文 + 多模态附件」这种混合负载了吗?模型竞赛的下半场,底座工程会越来越多地决定天花板。

对创业团队,Habitat 的启示是「先把状态层做厚,再谈智能」。很多 AI 应用卡在「记不住、取不快」,根子在存储设计。把多租户、低延迟、可恢复的状态层当一等公民,Agent 体验才立得住。

跨 40 个地区的部署还点出一个常被忽略的项:数据合规。不同地区的留存、加密、审计要求不同,存储平台从一开始就要把合规当架构约束,而不是事后打补丁。合规前置,全球化才顺。

对架构师,Habitat 的演进提醒:存储平台的「就近 + 分层 + 异步」,是扛十亿用户的通用套路。把热数据贴用户、冷数据下沉、能异步的不阻塞,是大规模系统的老道理,也是真功夫。

对出海产品,40 个地区的部署点出「合规即架构」:留存、加密、审计要当约束写进存储层,而不是上线后打补丁。全球化产品的地基,从第一行代码就要算合规。

举个反例:很多 AI 应用上线后才发现「状态存不住」——用户上下文丢了、Agent 中途断片。Habitat 的启示是,把状态层当产品核心来设计,而不是事后补。

对出海团队,40 地区还意味着「数据要能分身」:哪国数据留哪国、谁有权读、怎么审计,这些在架构图里就要画清楚,否则合规会卡你上线。