AI 学习目录：基础、AI Infra 与项目实战

建议先阅读 AI 基础，再按需要进入 AI Infra 和项目实战。AI Infra 内的条目按专题归类；同一专题中的独立文章可以结合当前问题选择阅读，不把列表顺序当成严格的前置依赖。

AI基础 / 深度学习

1. 深度学习模型入门：参数权重、网络结构与计算图
2. Tensor 与 Shape 图解：维度、Stride 与广播
3. 深度学习常见层与算子：Linear、Norm 与 Softmax
4. 训练与推理的区别：前向、反向与显存账本
5. 数值精度与显存：FP32、BF16、量化及混合精度
6. 模型如何运行在 GPU：Kernel、存储层次与性能瓶颈

AI基础 / Transformer

1. Transformer 入门图解：Token、Embedding 与信息流
2. Self-Attention 图解：QKV、缩放、Mask 与加权读取
3. Transformer Block 图解：多头注意力、FFN 与残差
4. LLM 生成图解：Decoder-only、Logits 与逐 Token 输出
5. LLM 推理工程图解：Prefill、Decode 与 KV Cache
6. LLM 推理服务图解：队列、批处理与资源调度
7. 图解 Transformer：自注意力、位置编码与编码器解码器
8. Transformer 注意力机制：从点积到多头计算

AI-Infra / 学习导览与面试

1. AI Infra 高频面试题：推理瓶颈、缓存与并行策略
2. AI Infra 推理知识体系：从请求生命周期到容量规划

AI-Infra / 模型结构与编码

1. GQA 与 MQA 原理：注意力结构如何影响 KV Cache
2. 大模型结构与推理工程：从配置到 SGLang 热路径
3. BPE 与 WordPiece：大模型 Tokenizer 编码原理
4. 模型 config.json 解析：MLA、MoE、MTP 与量化
5. 滑动窗口注意力 SWA：KV Cache 与长上下文推理

AI-Infra / KV-Cache与显存

1. KV Cache 容量与使用率：延迟、吞吐及稳定性
2. KV Cache 显存使用率：OOM、排队与尾延迟风险
3. KV Cache 显存计算：注意力布局与 DeepSeek 示例

AI-Infra / 算子与Attention优化

1. AI Infra 常用算子：GEMM、Softmax 与 Attention 入门
2. FlashAttention V1 到 V4：分块、在线 Softmax 与演进
3. 投机解码端到端解析：EAGLE、接受判定与调优

AI-Infra / CUDA与Triton

1. CUDA 与 Triton 学习导览：硬件、编程与分析工具
2. CUDA 硬件基础：GPU 存储层次与 Hopper 架构
3. CUDA 编程优化：合并访存、Bank Conflict 与 Tiling
4. CUDA 性能分析：Nsight、Graph、Stream 与 CUTLASS
5. Triton 入门教程：Block 编程模型与算子实现

AI-Infra / 并行通信与PD分离

1. DP 与 DPA 的区别：SGLang 并行部署与路由
2. PD 分离中的 KV Cache：利用率与 Router 负载均衡
3. PD 分离数据流：KV 生成、传输与 Decode 交接
4. 图解模型推理的八种集合通信原语
5. 图解推理并行策略：DP、TP、SP、CP、EP 与 CPP

AI-Infra / 推理调度与性能分析

1. Chunked Prefill 原理：LLM 调度、延迟与吞吐权衡
2. Decode 显存带宽估算：权重、KV Cache 与 Batch
3. Prefill FLOPs 估算：模型线性计算与 Attention 成本
4. TTFT 排查手册：首字延迟拆解、观测与优化
5. 大模型推理性能估算：显存、吞吐与容量规划

AI-Infra / SGLang源码

1. SGLang DP 调度源码：Controller 与负载均衡策略
2. SGLang 源码分析：Chat Completions 请求全链路

项目实战 / AI-Agent

1. 飞书知识库 RAG 实战：构建带引用的 AI Agent
2. 代码 PR Agent 实战：从 Git 变更到自动代码审查

项目实战 / 推理引擎

1. mini-llama.cpp 项目：从零构建 LLM 推理引擎

---

返回总目录