一套 Colab 笔记本，把 AI 工程师的技能栈跑通一遍

这个项目值得推荐的理由，恰恰是它明确不做的事：不用框架。

内容覆盖面是完整的一条链：提示词工程、RAG、评估、智能体、微调、服务化。附带三个端到端案例研究。全部跑在免费的 Groq API 上，不需要信用卡；LoRA 微调和自托管服务这两块给了概念讲解和可选的 Colab-GPU 附录。全程兼容 OpenAI API，所以学到的模式可以直接迁移到别的供应商。

“用原始 API 而非框架”这个选择，我认为是它最大的价值点。

现在入门 AI 工程的人，多数是从 LangChain 或 LlamaIndex 之类的框架开始的。框架能让你二十行代码跑出一个 RAG demo，代价是你不知道那二十行里发生了什么——文档怎么切的、embedding 怎么算的、检索用了什么相似度、召回结果怎么拼进 prompt、上下文超长了怎么截断。这些全被封装掉了。

问题在于，真实项目里出问题的地方，百分之九十都在这些被封装掉的细节里。RAG 效果差，可能是切块策略不匹配文档结构，可能是检索 top-k 设太小，可能是 prompt 里检索结果的位置不对（长上下文中间的信息容易被忽略）。不理解底层机制，你只能在框架的配置项里盲试。

用原始 API 手写一遍，最大的收益是建立故障定位能力。这个能力和“会用工具”是两种不同的东西，而它决定了你在团队里是执行者还是能解决问题的人。

给不同背景的人几句具体建议：

转型中的后端工程师：重点放在评估和服务化两块。你的编码能力不是瓶颈，缺的是“AI 系统怎么衡量好坏”这套方法论。传统软件有明确的对错，AI 系统只有分布上的好坏，评估体系的设计是核心技能。

产品经理或非技术背景：不要试图全部手敲。跑通提示词和 RAG 两章就够了，目标是建立正确的能力边界直觉——知道什么需求技术上便宜、什么需求会掉进坑里。这个判断力比会写代码更值钱。

已经在做 AI 应用的人：直接翻评估那一章，然后对照自己项目自查。我见过太多上线了的 AI 功能没有任何离线评估集，全靠上线后用户投诉来发现问题。

补充一个同期资源：Warp 团队在 Claude 平台上构建自我改进智能体的经验也发在了 Claude 官方博客（8 月 26 日）。他们用“基础技能 + 改进技能”两个文件型技能，把人类反馈转化为对智能体的持续优化，已应用于整个开源仓库、覆盖数百名贡献者与数千次代码审查。团队给出的两条经验很实用：技能应该以原则而非规则来写，以及低摩擦的反馈通道比精巧的规则更重要。这套思路对任何在团队内推广 AI 工具的人都有参考价值。

最后说一句关于学习方式的判断，可能比这个具体项目更重要。

AI 工程这个领域的知识半衰期很短，具体的 API、框架版本、最佳实践几个月就翻一遍。在这种环境里，投资在“会用某个工具”上的回报衰减很快，投资在“理解某类机制”上的回报要持久得多。检索的本质、评估的方法论、上下文的经济学、失效模式的分类——这些东西两年后还成立，而今天流行的框架名字大概率已经换了。

判断一份学习材料值不值得投入时间，我用的标准很简单：它是在教你操作步骤，还是在教你判断依据。教步骤的材料读起来爽、见效快、过期也快；教判断的材料读起来慢，但学完你能自己处理没见过的情况。这个项目属于后者，所以值得推荐——用原始 API 手写一遍的过程里，你被迫做的每一个选择都是在建立判断依据。

配套的一条建议：学完立刻找一个真实问题做一遍。免费额度跑通教程和处理真实脏数据之间的差距，比大多数人预想的要大。真实数据会给你各种教程里不会出现的麻烦——编码错乱、格式不一致、超长文档、多语言混杂。这些麻烦才是这份工作的主体内容。