深度学习架构
├── 序列建模架构
│   ├── 基础RNN
│   ├── 改进型RNN（LSTM、GRU、Bi-RNN）
│   └── 自注意力模型（Transformer）
├── 空间特征架构（CNN及变种）
├── 图结构架构（GNN）
├── 生成模型（GAN、VAE、扩散模型）
└── 强化学习架构（DQN、Actor-Critic）

• RNN是序列建模的核心基础，LSTM/GRU等是其优化版本，而Transformer则是序列建模的革命性突破（通过自注意力机制替代循环结构）

• 在深度学习领域，按数据类型与处理逻辑分类是最常见、最基础的分类方式之一，因为它直接关联数据的固有特性和模型的核心设计逻辑，也是初学者入门时最先接触的分类框架。

（重点）一、按数据类型与处理逻辑分类

1. 序列数据（时序/顺序相关）

• 特点：数据元素之间存在时间或顺序依赖（如文本、语音、股票价格）。

• 代表模型：

• • 循环神经网络（RNN）：基础RNN、LSTM、GRU、Bi-RNN。
  • 自注意力模型：Transformer及其变体（BERT、GPT、T5等）。
  • 时序卷积网络（TCN）：用一维卷积处理序列数据，避免RNN的循环计算瓶颈。

2. 网格状数据（空间相关）

• 特点：数据具有二维（图像）或三维（视频、体素）空间结构。

• 代表模型：

• • 卷积神经网络（CNN）：LeNet、AlexNet、ResNet、U-Net。
  • 视觉Transformer（ViT）：将图像分块后用自注意力机制处理。
  • 三维卷积网络（3D CNN）：用于视频动作识别或医学影像分析。

3. 图结构数据（非欧几里得结构）

• 特点：数据由节点和边组成（如社交网络、分子结构、知识图谱）。

• 代表模型：

• • 图神经网络（GNN）：GCN（图卷积网络）、GAT（图注意力网络）、GraphSAGE。
  • 图循环神经网络（GRNN）：结合RNN和图结构的时序建模。

4. 其他特殊类型数据

• 图序列数据：如交通网络的时序流量数据（需同时建模空间图结构和时间序列），可使用时空图神经网络（ST-GNN）。
• 多模态数据：融合图像、文本、语音等多种类型数据，如CLIP（图像-文本跨模态模型）、AudioGPT（语音-文本模型）。

（重点）二、按模型功能与应用场景分类

领域	判别式 AI（深度学习应用）	生成式 AI（深度学习应用）
自然语言处理	文本分类（BERT）、语音识别（RNN）	文本生成（GPT）、机器翻译（Transformer）
计算机视觉	目标检测（YOLO）、人脸识别（CNN）	图像生成（Diffusion 模型）、视频预测
医疗领域	癌症病理图像分类（CNN）	医学影像合成（VAE）、药物分子设计（GAN）
自动驾驶	路况识别（CNN+RNN）	虚拟场景生成（模拟复杂路况，训练自动驾驶模型）

1. 判别模型（分类/回归）

• 目标：对输入数据进行分类或预测连续值。

• 代表模型：

• • 图像分类：ResNet、EfficientNet。
  • 文本分类：TextCNN、FastText。
  • 回归任务：基于CNN的图像超分辨率模型、基于RNN的时序预测模型。

2. 生成模型

• 目标：生成新的样本数据（如图像、文本、语音）。

• 代表模型：

• • 图像生成：GAN（如StyleGAN）、扩散模型（如Stable Diffusion）。
  • 文本生成：GPT系列、LLaMA、PaLM。
  • 语音生成：WaveNet、Tacotron（语音合成）。

3. 强化学习模型

• 目标：通过与环境交互学习最优行为策略。

• 代表模型：

• • Atari游戏AI：DQN（深度Q网络）、Rainbow DQN。
  • 机器人控制：PPO（近端策略优化）、SAC（软演员-评论家算法）。
  • 棋类游戏：AlphaGo（CNN+蒙特卡洛树搜索）、AlphaZero（纯神经网络+强化学习）。

4. 无监督/自监督模型

• 目标：从无标签数据中学习特征表示。

• 代表模型：

• • 图像特征学习：SimCLR（对比学习）、MoCo（动量对比）。
  • 文本预训练：BERT（掩码语言模型）、GPT（自回归语言模型）。
  • 聚类模型：DeepCluster、DEC（深度嵌入聚类）。

三、按网络结构与核心机制分类

1. 基于卷积的架构

• 核心操作：卷积层（局部特征提取）+ 池化层（降维）。
• 应用场景：图像、音频等网格状数据。
• 变种：空洞卷积、可变形卷积、分组卷积（如ResNeXt）。

2. 基于循环的架构

• 核心操作：隐藏层状态循环传递，捕捉序列依赖。
• 应用场景：文本、语音等序列数据。
• 变种：LSTM、GRU、双向RNN。

3. 基于自注意力的架构

• 核心操作：自注意力机制（全局依赖建模）。
• 应用场景：序列数据（NLP）、图像/视频（CV）。
• 代表模型：Transformer、ViT、Swin Transformer。

4. 基于胶囊的架构

• 核心思想：用“胶囊”（向量神经元）替代传统标量神经元，建模实体的姿态、位置等空间关系。
• 代表模型：CapsNet（胶囊网络），用于图像识别中的姿态不变性建模。

四、按网络规模与训练方式分类

1. 小型轻量级模型

• 特点：参数量少、计算效率高，适合边缘设备或实时应用。
• 代表模型：MobileNet（深度可分离卷积）、ShuffleNet（通道洗牌降参）、TinyBERT（模型蒸馏）。

2. 大型预训练模型（大模型）

• 特点：参数量巨大（数十亿到万亿级），在海量数据上预训练后微调。

• 代表模型：

• • NLP：GPT-4（1.8万亿参数）、PaLM 2、LLaMA 2。
  • CV：Swin Transformer V2、CLIP（40亿参数）。
  • 多模态：GPT-4V（视觉-语言）、Gemini（文本-图像-语音）。

3. 分布式训练模型

• 特点：单卡无法容纳模型参数，需通过数据并行、模型并行、流水线并行等方式分布式训练。
• 技术挑战：通信开销、负载均衡、梯度同步（如DeepSpeed、Megatron-LM框架）。

（重点）五、按任务类型分类

1. 计算机视觉（CV）模型

• 图像分类、目标检测、语义分割、图像生成、视频理解等。
• 代表模型：YOLO（目标检测）、Mask R-CNN（实例分割）、Stable Diffusion（图像生成）。

2. 自然语言处理（NLP）模型

• 文本分类、机器翻译、问答系统、文本生成等。
• 代表模型：BERT（双向编码）、GPT（自回归生成）、T5（文本到文本迁移学习）。

3. 语音处理模型

• 语音识别（ASR）、语音合成（TTS）、语音情感分析等。
• 代表模型：DeepSpeech（语音转文字）、Tacotron 2（文字转语音）。

4. 跨领域模型

• 多模态任务（如图文检索、视频描述生成），如ALBEF（视觉-语言预训练）、Flamingo（视频-语言模型）。

六、总结：分类维度的交叉与融合

实际应用中，模型可能属于多个分类维度的交叉领域，例如：

• Transformer：既属于“序列建模架构”（按数据类型），又属于“基于自注意力的架构”（按核心机制），还可用于“生成模型”（如GPT）或“判别模型”（如BERT）。
• ViT：属于“网格状数据架构”（处理图像），但核心机制是自注意力，而非卷积。

这种多维分类方式体现了深度学习领域的灵活性和跨领域特性，不同维度的分类帮助研究者和工程师从数据特性、任务目标、技术原理等角度选择或设计合适的模型。