深度学习中的层次分类问题（Hierarchical Classification）是指分类任务中存在类别间的层次结构，且模型需要根据这种层次关系进行预测的问题。与传统的扁平分类（Flat Classification）不同，层次分类要求模型在预测时考虑类别的层级关系，例如从粗粒度到细粒度的分类过程，或根据类别的树状/图状结构进行推理。

1. 层次分类的定义与特点

• 层级结构：类别之间存在父子关系或继承关系，形成一个树状或图状的层次结构。
  示例：

  • 生物学分类：界→门→纲→目→科→属→种

  • 商品分类：电子产品→手机→智能手机→iPhone 15

  • 疾病诊断：疾病大类→亚型→具体病理特征

• 分类目标：

  • 直接预测最细粒度的类别（叶节点），同时保证路径符合层次约束。

  • 在分类过程中逐层细化（如先判断是否为“动物”，再判断是否为“哺乳动物”）。

2. 层次分类的常见场景

• 细粒度视觉分类（Fine-Grained Visual Classification）：
  区分鸟类子类（如“麻雀” vs. “画眉”）、汽车型号（如“宝马X5” vs. “宝马X6”）等。

• 文本分类：
  新闻主题分类（如“体育→足球→英超”）、文档层级标签标注。

• 医学诊断：
  疾病类型→亚型→分子分型（如癌症分类）。

• 电商推荐：
  商品的多层级标签预测（如“家居→家具→沙发→真皮沙发”）。

3. 层次分类的挑战

1. 类别不平衡：
   高层级类别数据多，低层级（细粒度）类别数据少。

2. 错误传播：
   若高层分类错误，后续细粒度分类无法修正。

3. 复杂层级约束：
   类别可能属于多个父节点（非严格树状结构）。

4. 标注成本：
   需要同时标注样本的层级路径（如“动物/哺乳动物/犬科/狗”）。

4. 深度学习中解决层次分类的方法

(1) 层次化网络结构设计

• 分层预测网络：
  为每个层级设计独立的分类器，逐层预测。
  示例：

  • 第一层网络判断“动物” vs. “植物”，

  • 第二层网络在“动物”基础上判断“哺乳动物” vs. “鸟类”，

  • 最后一层预测具体物种。

• 联合训练：
  通过多任务学习同时优化各层级的分类损失。

(2) 层次感知的损失函数

• 层次交叉熵（Hierarchical Cross-Entropy）：
  根据类别层级调整损失权重。例如，对高层错误施加更大惩罚。

• 路径相似性约束：
  强制模型在特征空间中保持类别路径的拓扑结构（如父类与子类特征相近）。

(3) 层次Softmax

• 树状Softmax：
  将Softmax计算限制在层次结构的路径上，减少计算量并融入层级信息。
  适用场景：大规模层次分类（如WordNet的10万+类别）。

(4) 图神经网络（GNN）

• 利用类别关系图：
  将类别层次结构建模为图，通过GNN传播类别间的依赖关系。

(5) 迁移学习与知识蒸馏

• 预训练高层特征：
  先在大类上预训练模型，再微调细粒度分类层。

• 教师模型指导：
  用扁平分类模型作为教师，指导层次分类模型学习细粒度特征。

5. 层次分类 vs. 扁平分类

特性	层次分类	扁平分类
类别关系	显式利用层级结构	忽略类别关系
计算复杂度	更高（需处理层次约束）	较低
可解释性	更高（决策路径可追溯）	较低
适用场景	细粒度分类、层级数据	简单分类任务

6. 实际应用案例

• ImageNet数据集：
  原始的ImageNet包含WordNet的层次结构（约2万类别），早期模型需处理层级分类问题。

• 医疗影像诊断：
  预测疾病类型时，需先判断器官（如“肺部”），再识别病变类型（如“肺癌→腺癌”）。

• 自动驾驶：
  交通标志分类（如“警告标志→限速标志→限速30km/h”）。

7. 关键研究方向

• 动态层次分类：允许层次结构随数据变化自适应调整。

• 小样本层次分类：在少量标注数据下利用层级关系提升性能。

• 可解释性增强：可视化模型在层次分类中的决策路径。