补充：梳理超参数调整流程（逻辑）

超参数调节的流程逻辑可以总结为以下几个步骤：

---

1. 明确目标

确定你要优化的模型和评估指标（如准确率、F1值、AUC等）。

---

2. 选择要调节的超参数

列出模型中影响较大的超参数，比如：

• 决策树：max_depth, min_samples_split
• LightGBM：num_leaves, learning_rate, n_estimators 等

---

3. 确定参数搜索空间

为每个超参数设定一个合理的取值范围（如 learning_rate 在 0.01~0.2 之间）。

---

4. 选择调参方法

常见方法有：

• 网格搜索（Grid Search）：遍历所有参数组合
• 随机搜索（Random Search）：随机采样参数组合
• 贝叶斯优化等智能搜索方法

---

5. 划分数据集

将数据分为训练集、验证集（或使用交叉验证），不能用测试集调参。

---

6. 运行调参

在训练集上训练模型，在验证集上评估每组参数的效果，记录结果。

---

7. 选择最优参数

根据验证集上的评估指标，选出表现最好的参数组合。

---

8. 最终评估

用最优参数在测试集上评估模型，得到最终结果。

---

总结流程图：
确定目标 → 选超参数 → 定范围 → 选方法 → 划分数据 → 运行调参 → 选最优 → 测试集评估

这样可以保证模型既不过拟合，也能达到最优效果。

手写笔记复习（贝叶斯优化）

今日复习到这里，明日继续加油!!!@浙大疏锦行