AI Engineering from Scratch：435节课从零构建完整AI工程体系
AI Engineering from Scratch：435节课从零构建完整AI工程体系
你有没有这样的困惑：看了很多AI教程，但始终感觉知识是散的——今天学个Transformer论文，明天看个RAG教程，后天跑个Agent Demo，学完回头一看，还是不会自己搭建一套完整的AI系统。
这个问题不是你的错。大多数AI学习资源本身就是碎片化的——一篇论文在这里，一个微调教程在那里，一个炫酷的Agent Demo又在别处。散落的知识点之间缺乏一条主线。
而今天要介绍的这个 GitHub 爆火项目 ai-engineering-from-scratch，就是来解决这个问题的。作者 Rohit Ghumare 从数学基础到自主多智能体集群，用 435节课、20个阶段、约320小时 的系统化课程，画出了一条从"AI API调用者"升级为"AI工程师"的完整路线图。
🔗 GitHub: rohitg00/ai-engineering-from-scratch 🌐 官网: aiengineeringfromscratch.com
项目速览
| 项目信息 | 详情 |
|---|---|
| 作者 | Rohit Ghumare (@rohitg00) |
| Stars | 19,000+ ⭐ |
| 课程规模 | 435节课 · 20个阶段 · ~320小时 |
| 编程语言 | Python · TypeScript · Rust · Julia |
| 开源协议 | MIT（完全免费，可商用） |
| 产出物 | 378个Skills + 99个Prompts |
更硬核的是：每节课都要求你从零手写实现——在接触 PyTorch 之前，你必须先用纯 Python 写出反向传播；在使用任何 Agent 框架之前，你必须先自己写一个完整的 Agent 循环。
它解决了什么痛点？
痛点一：AI知识碎片化，学了等于没学
调查显示：84%的学生已经在使用AI工具，但只有18%觉得准备好在专业环境中真正应用。原因很简单——大多数学习资源散落在各处，没有一条主线把它们串起来。
这个项目提供了从数学基础到多智能体集群的完整学习主干（spine），让所有知识点都有了归属。
痛点二：只会调包，不懂原理
用 PyTorch 的几行代码就能训练一个神经网络，但你真知道 loss.backward() 内部发生了什么吗？
这个项目的核心方法论是 "Build It first, Use It later"——每节课先用原始数学和代码从零实现，再用 PyTorch/sklearn 等框架复现。当框架出现时，你已经知道它在做什么了。
痛点三：学了不会用，缺乏交付能力
传统的学习路径到"理解概念"就结束了，但这个项目强制每节课产出一个可复用工具：Prompt、Skill、Agent 或 MCP Server。
- 学完线性代数，你拥有一个变换可视化 Prompt
- 学完 RAG，你拥有一个检索评估 Skill
- 学完 Agent 循环，你拥有一个完整的 Agent Skill
435节课结束后，你得到的不只是知识，而是一个真实的AI工程工具箱。
痛点四：不知道从哪里开始学
面对435节课可能会被吓到，但项目提供了智能起点定位。内置的 /find-your-level Agent 技能通过10个问题评估你的知识水平，直接映射到合适的起始阶段，并生成带时间估算的个性化路径。
你不需要从头学起——会ML的从Phase 3开始，只想学Agent的从Phase 14起步。
核心亮点
一、20阶段全景路线图：从数学到多智能体集群
这不是一个"教你用LangChain搭个聊天机器人"的教程，而是一条从底层数学到前沿AI工程的完整技术栈。每个阶段都是后续的基石。
Phase 0-2：基础层
🔧 环境搭建 + 🧮 数学基础 + 📊 ML基础
- 22节数学课（线性代数/微积分/概率/信息论）
- 18节ML课（回归/SVM/集成/特征工程）
所有数学概念都映射到代码实体——比如学习链式法则后，你会直接用它构建反向传播的 Value 类。
Phase 3-6：深度学习与多模态
🧠 深度学习核心 + 👁️ 计算机视觉 + 📝 NLP + 🎤 语音
从零构建神经网络框架（反向传播/优化器/正则化全手写），然后覆盖：
- CV：28课从CNN到3D高斯泼溅
- NLP：29课从Word2Vec到RAG评估
- 语音：17课含Whisper架构与微调
Phase 7-9：进阶核心
⚡ Transformers + 🎨 生成式AI + 🎮 强化学习
- 14课深入Transformer：自注意力从零、多头注意力、RoPE位置编码、MoE混合专家、Flash Attention推理优化，最后从零构建一个完整Transformer
- 生成式AI：从DDPM扩散模型到Stable Diffusion
- RL：Q-Learning → PPO → RLHF奖励建模
Phase 10-11 ⭐ 最核心阶段
🚀 LLMs 从零构建 + 🏭 LLM 工程化
Phase 10（22课） 带你从分词语料走完整条LLM链路： BPE分词器 → 数据管线 → 预训练Mini GPT（124M）→ SFT指令微调 → RLHF/DPO对齐 → 量化(INT8/GPTQ/AWQ/GGUF) → 推测解码 → DeepSeek-V3架构走读
Phase 11（17课） 教你把LLM投入生产： 提示工程 → RAG/高级RAG → LoRA/QLoRA微调 → 函数调用 → MCP协议 → LangGraph状态机 → 生产部署
Phase 12-14 ⭐ Agent核心
🌐 多模态 + 🔌 工具协议 + 🤖 Agent工程（42课）
- Phase 12（25课）：CLIP/BLIP-2/LLaVA/Qwen-VL到计算机使用Agent
- Phase 13（23课）：深入MCP协议——构建MCP Server/Client、OAuth 2.1安全认证、A2A协议、LLM路由层
- Phase 14（42课，课时最多）：从零构建Agent循环、ReWOO规划、Reflexion自反思、MemGPT虚拟上下文记忆、混合记忆系统，再到LangGraph/AutoGen/CrewAI框架对比、SWE-bench/GAIA基准评测、12节课构建Agent Workbench
Phase 15-19：前沿与实战
🛡️ 自主系统 + 多智能体 + 生产部署 + 安全 + 顶点项目
- Phase 15（22课）：Claude Code自动模式、长周期Agent、递归自我改进、2026安全栈（RSP v3.0/预备框架）
- Phase 16（25课）：多Agent心智社会、A2A协议、群体优化
- Phase 17（28课）：vLLM推理内部、推测解码、GPU自动扩展、FinOps
- Phase 18（30课）：红队测试、越狱防御、差分隐私、EU AI Act合规
- Phase 19（17个顶点项目）：终端编码Agent、自主研究Agent、多Agent软件工程团队、推测解码推理服务器等
二、每节课的六步闭环学习法
435节课中的每一节都严格遵循相同的结构，项目有 LESSON_TEMPLATE.md 模板文件和CI自动化审计来确保每节课的一致性：
- Motto — 一句话抓住核心直觉（如"反向传播就是链式法则在计算图上的优雅应用"）
- Problem — 为什么忽略这个概念会成为瓶颈，把你拉入真实工程困境
- Concept — 心智模型和图解理解，先建立直觉再碰代码
- Build It — 从原始数学和代码手写实现，禁止调用高层API
- Use It — 将"从零构建"的版本映射到PyTorch/JAX/Scikit-Learn等生产框架
- Ship It — 将可复用产物导出到全局 outputs/ 目录，形成你的AI工程工具箱
三、378个Skills + 99个Prompts：学完直接带走工具箱
这是这个项目最与众不同的地方。学完不只有知识，更有可以直接安装使用的工具：
# 一键安装所有378个Skills到你的Claude/Cursor/Codex中
npx skills add rohitg00/ai-engineering-from-scratch
# 只安装Agent循环这一个Skill
npx skills add rohitg00/ai-engineering-from-scratch --skill agent-loop
# 安装整个Phase 14（Agent工程）的全部Skills
npx skills add rohitg00/ai-engineering-from-scratch --phase 14
# 高级：使用Python脚本离线安装，支持按标签筛选
python3 scripts/install_skills.py ~/.claude/skills --tag rag四、面向多角色的分层学习路径
不需要学完所有435节课。项目根据你的背景提供了不同的进入点和路径：
| 你的背景 | 推荐起始阶段 | 预计时间 |
|---|---|---|
| 编程和AI新手 | Phase 0 — 环境搭建 | ~306小时 |
| 会Python，ML新手 | Phase 1 — 数学基础 | ~270小时 |
| 会ML，深度学习新手 | Phase 3 — 深度学习核心 | ~200小时 |
| 会深度学习，想学LLM+Agent | Phase 10 — LLMs从零 | ~100小时 |
| 高级工程师，只要Agent工程 | Phase 14 — Agent工程 | ~60小时 |
五、工程化程度极高：CI审计 + 脚本化质量保障
这不是一个随意堆放Markdown文件的仓库。项目有完整的工程质量体系：
- audit_lessons.py：检查每节课的目录结构、文档完整性、quiz schema
- lesson_run.py：对所有代码做语法检查，甚至支持
--execute实际运行验证 - CI流水线：每次PR自动重建catalog.json并运行审计
- 10条审计规则（L001-L010）：确保课程规范性
六、覆盖AI工程前沿
课程内容的时效性令人印象深刻，不仅包含经典论文，更覆盖了2025-2026年的最新进展：
- DeepSeek-V3架构走读（含DualPipe并行、NSA稀疏注意力）
- 推测解码与EAGLE-3
- 差分注意力V2
- MCP协议（含OAuth 2.1认证）
- A2A Agent间协议
- Anthropic RSP v3.0安全框架
- EU AI Act合规要求
每节课的目录结构
phases/-/-/
├── code/ # Runnable implementations (Python, TypeScript, Rust, Julia)
├── docs/ # Lesson narrative (en.md)
└── outputs/ # Prompts, skills, agents, or MCP servers this lesson produces 实战场景展示
场景一：前端开发者转型AI工程师（8周路线）
- Week 1-2：LLM基础 + 提示工程（学会和模型高效对话）
- Week 3-4：RAG实现（用LangChain快速上手知识检索）
- Week 5-6：Agent开发（从ReAct循环开始，自己写一个Agent）
- Week 7-8：部署实战（vLLM + FastAPI 搭建推理服务）
全程代码驱动，每步都有可运行示例。
场景二：从零构建一个Mini GPT
Phase 10的核心挑战——构建一个124M参数的GPT模型并完成预训练：
- 用BPE算法从零写分词器（Python+Rust双实现）
- 构建训练数据管线
- 实现自注意力+多头注意力
- 分布式训练（FSDP/DeepSpeed）
- SFT指令微调
- RLHF对齐
做完这个，你对LLM的每一个组件都有第一手理解。
场景三：团队内部AI培训体系搭建
项目是MIT协议，明确鼓励团队和学校Fork改编。你可以基于20个阶段设计团队培训方案：
- 新人走 Phase 0→1→2→3 路线
- 有经验的工程师直接进入 Phase 10→11→14
每节课产出的Skills和Prompts可以直接整合到团队的AI工具链中。scaffold_workbench.py 脚本还能一键为你的仓库生成Agent Workbench脚手架。
上手指南
前置条件：会写代码（任何语言均可，Python有帮助），有一颗想理解AI底层原理的心。
方式一：在线阅读（零配置）
直接访问 aiengineeringfromscratch.com，浏览所有已完成的课程。无需克隆、无需本地环境。
方式二：本地克隆运行
# 克隆仓库
git clone https://github.com/rohitg00/ai-engineering-from-scratch.git
cd ai-engineering-from-scratch
# 安装依赖
pip install -r requirements.txt
# 运行第一节课的示例代码
python phases/01-math-foundations/01-linear-algebra-intuition/code/vectors.py方式三：智能定位起点（推荐）
如果你使用 Claude Code、Cursor、Codex 等支持 Skills 的 Agent，直接在对话中输入：
# 10题定位测验，映射到你的起始阶段，生成个性化路径+时间估算
/find-your-level
# 对指定阶段进行8题自测，获得反馈和复习建议
/check-understanding 3客观评价
✅ 优势
- 体系完整：从数学到多智能体集群，20阶段形成系统知识框架，告别碎片化学习
- 强调从零实现：Build It first的核心哲学让学习者真正理解底层原理
- 每课有产出：378个Skills + 99个Prompts形成个人AI工程工具箱
- 工程化程度高：模板/审计脚本/CI/CD/术语表/网站一应俱全
- MIT开源：完全免费，团队可Fork改编作为内部培训体系
- 时效性强：覆盖DeepSeek-V3、推测解码、MCP协议等2025-2026最新技术
⚠️ 需注意
- 学习成本高：总时长约320小时，不适合只想快速调用API的用户
- 仍在建设中：许多Phase还未完全完成，内容可能持续变化
- 覆盖面过广：需要主动根据自己的目标裁剪路线，避免"什么都学一点"
- 高阶门槛：LLM预训练、分布式训练、多智能体等部分需要较强的工程和数学背景
总结
ai-engineering-from-scratch 是目前GitHub上最系统化的AI工程课程，435节课、20个阶段、320小时，覆盖从线性代数到自主多智能体集群的全部技术栈。
核心方法论"Build It first, Use It later"——每个算法都从原始数学和代码手写实现，再引入PyTorch等框架，杜绝"只会调包"。
每节课产出可复用工具（Prompt/Skill/Agent/MCP Server），学完直接带走378个Skills和99个Prompts的专业工具箱。
Phase 10（LLMs从零） 和 Phase 14（Agent工程42课） 是最核心的两个阶段，分别覆盖预训练全链路和多智能体工程。
内置 /find-your-level 智能定位 + 多角色学习路径（新手306h / 转Agent方向60h），不需从头学完所有435节课。
MIT开源，团队可Fork改编，已有 scaffold_workbench.py 脚本支持快速搭建培训体系。
如果你厌倦了碎片化的AI教程，想要系统地构建自己的AI工程知识体系，这个项目绝对值得投入时间。
本文基于 ai-engineering-from-scratch 开源项目编写，项目地址：github.com/rohitg00/ai-engineering-from-scratch
