第 2 周 · 第 2 天

机器学习概述与分类

了解监督学习、无监督学习、强化学习的区别与应用场景

神经网络基础

感知机、多层感知机、激活函数、反向传播算法

大语言模型概述

GPT系列发展、BERT家族、开源模型对比

扩散模型基础

DDPM、DDIM、噪声调度、采样策略

MLOps 基础

ML生命周期、实验追踪、模型版本管理

AI Agent 发展

自主智能体、多Agent系统、工具使用能力

线性回归与逻辑回归

掌握最基本的预测模型，理解损失函数与梯度下降

卷积神经网络 CNN

卷积层、池化层、经典架构：LeNet、AlexNet、VGG、ResNet

Prompt Engineering

零样本学习、少样本学习、Chain-of-Thought、ReAct

Stable Diffusion

文生图原理、U-Net结构、VAE编码器

模型服务化

FastAPI、Flask、模型序列化、REST API设计

世界模型

Sora、世界模拟器、物理引擎结合AI

决策树与随机森林

学习基于树结构的分类与回归方法

循环神经网络 RNN

RNN、LSTM、GRU，处理序列数据的网络结构

模型微调 Fine-tuning

全参数微调、LoRA、QLoRA、Prefix Tuning

ControlNet 与条件控制

姿态控制、边缘检测、深度图引导生成

容器化与编排

Docker、Kubernetes、Helm Charts

具身智能

机器人学习、Sim2Real、人形机器人

支持向量机 SVM

理解最大间隔分类器与核技巧

Transformer 架构

自注意力机制、多头注意力、位置编码、BERT与GPT

RAG 检索增强生成

向量数据库、文档分块、Embedding模型、重排序

LoRA 与模型定制

训练个人LoRA模型、风格迁移、角色一致性

向量数据库

Pinecone、Milvus、Chroma、Weaviate

AI 安全与对齐

RLHF、Constitutional AI、红队测试

K近邻与K均值聚类

掌握基于距离的算法，理解聚类分析

生成对抗网络 GAN

生成器与判别器、GAN训练技巧、StyleGAN

Agent 智能体

ReAct模式、工具调用、多Agent协作、AutoGPT

音频生成

TTS语音合成、音乐生成、音效生成

流式处理

Kafka、Redis Streams、实时推理

神经符号 AI

结合神经网络与符号推理、知识图谱

降维技术：PCA与t-SNE

学习如何减少数据维度，可视化高维数据

优化器与正则化

SGD、Adam、学习率调度、Dropout、BatchNorm

模型量化与推理优化

GGUF、AWQ、GPTQ、vLLM推理加速

视频生成

Sora、Runway Gen-2、视频编辑与合成

监控与可观测性

Prometheus、Grafana、模型性能监控

高效模型架构

Mamba、RWKV、状态空间模型、线性注意力

模型评估与选择

交叉验证、混淆矩阵、ROC曲线、超参数调优

模型部署与优化

ONNX、TensorRT、模型量化、知识蒸馏

多模态大模型

CLIP、GPT-4V、LLaVA，视觉语言模型

3D 生成与NeRF

3D模型生成、神经辐射场、Gaussian Splatting

A/B 测试与影子流量

模型对比实验、金丝雀发布、流量镜像

AI 芯片与硬件

TPU、NPU、神经形态芯片、边缘计算