AI Infra 6个月学习路线总结

 

第1月:计算机与Linux + Python系统能力打底

目标:能像 Infra 工程师一样“操作系统 + 写工程代码”

 Week 1:Linux核心能力

      •  Day 1:Linux文件系统 / 目录结构
      •  Day 2:权限(chmod / chown / sudo)
      •  Day 3:进程 / 线程 / top / htop
      •  Day 4:内存 / swap / cache机制
      •  Day 5:IO模型(阻塞/非阻塞)
      •  Day 6:shell基础(bash语法)
      •  Day 7:练习:写10个系统监控命令脚本

 Week 2:网络基础(AI Infra必备)

      •  Day 8:TCP/IP模型
      •  Day 9:HTTP/HTTPS
      •  Day 10:DNS解析流程
      •  Day 11:负载均衡原理
      •  Day 12:RPC vs REST
      •  Day 13:延迟 vs 吞吐
      •  Day 14:练习:抓包分析HTTP请求

 Week 3:Python工程能力

      •  Day 15:Python OOP + dataclass
      •  Day 16:asyncio异步
      •  Day 17:FastAPI入门
      •  Day 18:logging系统设计
      •  Day 19:性能分析(cProfile)
      •  Day 20:多线程 vs 多进程
      •  Day 21:项目:写一个API服务

 Week 4:工程基础 + Git

      •  Day 22:Git branch / rebase
      •  Day 23:CI/CD概念
      •  Day 24:Docker基础
      •  Day 25:Dockerfile写法
      •  Day 26:镜像优化
      •  Day 27:Compose
      •  Day 28–30:小项目:容器化API服务

第2月:云计算 + Docker + Kubernetes入门

Week 5:云计算基础

      • Day 31:IaaS/PaaS/SaaS
      • Day 32:AWS/GCP/Azure概念
      • Day 33:VPC网络
      • Day 34:IAM权限系统
      • Day 35:S3/Blob存储
      • Day 36–37:练习云上部署服务

Week 6:Docker深入

      • Day 38:镜像分层
      • Day 39:multi-stage build
      • Day 40:容器网络
      • Day 41:volume挂载
      • Day 42:安全扫描
      • Day 43–44:项目:ML模型Docker化

Week 7:Kubernetes基础

      • Day 45:Pod / Deployment
      • Day 46:Service / Ingress
      • Day 47:ConfigMap / Secret
      • Day 48:HPA自动扩缩容
      • Day 49:kubectl调试
      • Day 50–51:部署一个API到K8s

Week 8:K8s进阶

      • Day 52:Scheduler机制
      • Day 53:GPU Node基础
      • Day 54:DaemonSet / StatefulSet
      • Day 55:Helm
      • Day 56:日志系统
      • Day 57–60:项目:K8s部署ML服务

第3月:MLOps体系

Week 9:ML系统基础

      • Day 61:训练/验证/推理流程
      • Day 62:数据pipeline概念
      • Day 63:feature engineering
      • Day 64:模型生命周期
      • Day 65–66:训练一个简单模型

Week 10:MLOps工具

      • Day 67:MLflow
      • Day 68:W&B
      • Day 69:模型注册
      • Day 70:实验追踪
      • Day 71–72:实验对比系统

Week 11:数据工程

      • Day 73:Airflow DAG
      • Day 74:ETL pipeline
      • Day 75:Spark基础
      • Day 76:数据版本管理(DVC)
      • Day 77–78:构建数据pipeline

Week 12:部署体系

      • Day 79:模型API服务
      • Day 80:灰度发布
      • Day 81:A/B testing
      • Day 82:监控指标
      • Day 83–90:项目:完整MLOps pipeline

第4月:GPU + 分布式训练(AI Infra核心)

Week 13:GPU基础

      • Day 91:GPU vs CPU
      • Day 92:CUDA架构
      • Day 93:显存机制
      • Day 94:batch size影响
      • Day 95–96:PyTorch GPU训练

Week 14:分布式训练

      • Day 97:DDP原理
      • Day 98:AllReduce
      • Day 99:梯度同步
      • Day 100:NCCL通信
      • Day 101–102:多GPU训练

Week 15:高级训练策略

      • Day 103:model parallelism
      • Day 104:pipeline parallelism
      • Day 105:DeepSpeed
      • Day 106:FSDP
      • Day 107–108:大模型训练模拟

Week 16:GPU调度

      • Day 109:K8s GPU scheduling
      • Day 110:NVIDIA GPU Operator
      • Day 111:MIG / vGPU
      • Day 112:资源隔离
      • Day 113–120:项目:多GPU训练平台

第5月:LLM Infra(最关键)

Week 17:LLM基础系统

      • Day 121:Transformer结构
      • Day 122:tokenization
      • Day 123:KV cache
      • Day 124:attention优化
      • Day 125–126:跑开源LLM

Week 18:推理系统

      • Day 127:batching策略
      • Day 128:latency优化
      • Day 129:throughput优化
      • Day 130:quantization
      • Day 131–132:INT8/FP16实验

Week 19:LLM Serving

      • Day 133:vLLM架构
      • Day 134:Triton Inference Server
      • Day 135:TensorRT-LLM
      • Day 136:API Gateway设计
      • Day 137–138:部署LLM服务

Week 20:RAG系统

      • Day 139:embedding pipeline
      • Day 140:vector DB(Milvus)
      • Day 141:retrieval策略
      • Day 142:rerank
      • Day 143–150:RAG完整系统

第6月:系统设计 + 高级AI Infra

Week 21:AI系统设计

      • Day 151:设计LLM服务系统
      • Day 152:设计训练平台
      • Day 153:设计推理平台
      • Day 154:多租户架构
      • Day 155–156:画架构图

Week 22:可观测性

      • Day 157:Prometheus
      • Day 158:Grafana
      • Day 159:OpenTelemetry
      • Day 160:日志系统
      • Day 161–162:监控AI服务

Week 23:性能 + 成本优化

      • Day 163:GPU利用率优化
      • Day 164:batch tuning
      • Day 165:spot instance
      • Day 166:autoscaling
      • Day 167–168:成本优化项目

Week 24:终极项目周(很关键)

      • Day 169–175:做一个完整系统:

终极项目:“LLM Infra Platform”,包含:

      • Kubernetes GPU集群
      • vLLM推理服务
      • RAG系统
      • 监控系统
      • 自动扩缩容
AI Infra 6个月学习路线总结

发表回复

滚动到顶部