趋近智
AI 基础设施与系统
硬件选型、本地部署与量化加速。
AI 基础设施基础
GPU 芯片微架构、存储层级结构、显存容量估算与计算带宽基础。
3门课程
本地 LLM 爱好者
本地推理引擎 (Ollama, llama.cpp)、模型权重管理与端侧运行时优化。
3门课程
AI 基础设施架构师
集群计算拓扑、高速互联网络 (NVLink/InfiniBand) 与多节点分布式架构。
4门课程
LLM 推理工程
连续批处理 (Continuous Batching)、PagedAttention、KV Cache 管理、投机采样与 vLLM 部署。
4门课程
高效 AI 部署
生产级模型服务流水线、容器化 GPU 运行时、弹性扩缩容与延迟吞吐权衡。
4门课程
ML 编译器优化
机器学习编译器 (torch.compile, TVM)、计算图捕获、算子融合与底层代码生成。
3门课程
MLOps 工程师
自动化训练流水线、模型注册中心、工程制品版本控制与持续评估机制。
5门课程
LLM Ops 专家
大模型系统可观测性、提示词追踪、延迟与 Token 成本遥测监控及回归测试。
4门课程