AI架构图不是画给AI看的,是画给人看的——看懂的人越多,架构落地的概率越大。以下通过几个真实案例,拆解从业务需求到一张可执行架构图的完整路径。
一、先搞清楚:架构图到底在画什么?
很多人一上来就开画,画完发现没人看得懂。根本原因是没有想清楚这张图的受众和目的。
一张好的AI技术架构图,通常包含三个核心层级:
- 基础层:GPU集群、存储系统、网络资源
- 技术逻辑层:模型训练、推理引擎、数据预处理
- 应用层:用户功能模块(文本生成、图像生成等)
受众不同,画法不同。给管理层看的图聚焦整体逻辑与业务价值;给研发团队看的图需要详细标注数据流与模块依赖-15。画之前先问自己:这张图是给谁看的?他要从中得到什么?
二、案例一:企业级Agent AI Native架构——〖7+2〗模式
这是一个从真实项目中提炼出来的企业级Agent架构全景图。
背景:一个企业级AI Agent项目,需要在多个业务场景中落地智能体能力。作者闭门画了2天架构图,最终整理出〖7+2〗的架构模式。
架构拆解:
垂直七层结构:
- 业务应用层:与Agent交互的终端——网页Chatbot、IDE插件、飞书、钉钉等
- 应用网关层:传统网关——鉴权、路由转发、负载均衡
- AI Agent Core层(最核心) :智能体构建——选用什么框架(LangGraph、MAF、Spring AI Alibaba)、Single-Agent还是Multi-Agent、记忆体系如何设计(工作记忆、语义记忆、情景记忆、程序性记忆)
- AI网关层:统一管理所有大模型调用——路由分发、Token配额、缓存、安全治理
- 大模型层:接入公有模型、私有模型、Embedding模型、Rerank模型
- 知识 & 数据层
- 基础设施层
两个横切关注点:
- 可观测性 & 评估:贯穿全链路的监控与度量
- 安全治理 & 合规:横跨所有层的安全底线
设计要点:这张图的关键不是画了七层,而是把Agent Core层放在了正中间——AI是整个业务的核心驱动,而非外挂模块。AI集成是“给系统叠加AI功能”,AI Native是“以AI为核心驱动业务”。
三、案例二:企业AI系统的完整架构蓝图——六大部件咬合
另一个实战案例提供了更细颗粒度的架构拆解。
六大核心部件:
层级 | 部件 | 职责 |
最内核 | LLM | 会推理的CPU,引擎而非系统 |
内环 | Prompt | 角色、约束、输出schema |
第二环 | Context | 决定“喂什么进模型”,本质是减法 |
第三环 | Harness | 模型之外的执行运行时——工具、校验、兜底、成本,demo到production的分水岭 |
外环 | Loop | 驱动整个闭环持续运转、自我推进 |
垂直贯穿 | Evaluation | 度量每一层好坏的度量柱 |
最外层 | Relay | 运营外壳,人与Agent接力,7×24连续运转 |
咬合逻辑:
- 信息向内汇聚:Relay决定能不能动手→Loop拉来任务→Harness调工具取数据→Context组织好→汇聚到LLM决策
- 控制向外传递:LLM只决定“这一步怎么判断”,执行、循环、停不停、要不要找人,控制权一层层向外交
画图启示:这张图最有价值的部分不是画了六个框,而是把“信息流”和“控制流”用两个方向标注清楚。很多架构图只画了模块,没画流向——等于只给了零件,没给装配说明书。
四、案例三:从业务到图纸的四步落地法
光看成品图不够,关键是要知道怎么从零画出来。
第一步:把业务“翻译”成设计图
以智能客服为例,先用结构化三层法写方案:
- 业务层(做什么) :用户咨询退换货→AI从知识库检索→生成回答;连续两轮未解决→转人工
- 成功指标:首次解决率≥60%、转人工率<30%、响应时间P95<3s
- 边界条件:生鲜退款直接转人工、用户手机号脱敏后传LLM
第二步:确定核心层级
根据业务场景确定三层结构:基础层(GPU/存储)→ 技术逻辑层(模型/推理/数据预处理)→ 应用层(用户功能模块)。
第三步:定义模块间交互逻辑
明确数据流(输入、输出、传递路径)和控制流(模块调用与依赖关系)。以RAG系统为例:用户查询→向量检索→上下文整合→LLM生成→结果返回。
第四步:选工具、定风格
- 工具:Visio、Draw.io、Figma、ProcessOn
- 进阶:用AI生成Mermaid架构图,或让Claude输出SVG图源代码进行绘制
- 美化:颜色区分层级、箭头指示方向、标准图标
五、两个最常见的坑
坑1:架构图太复杂,没人看得懂。好的架构图在传达必要细节的同时应尽可能简单。杂乱无章的图表和过多的动画只会让受众困惑。
坑2:只画了模块,没画流向。一张架构图至少应该回答三个问题:有哪些模块、模块之间怎么交互、数据/控制往哪个方向流。缺任何一个,图就是半成品。
六、一句话总结
AI架构设计图的核心不是“画得好看”,而是让看的人能顺着图走通一条完整的请求链路——从用户发起请求,到系统如何调度、模型如何推理、结果如何返回,每一步都能在图上找到对应的模块和箭头。能做到这一点的图,就是好图。
