1、针对设计:二分类
Logistic 回归最初是为二分类问题设计的,
Logistic 回归基于概率,通过 Sigmoid 函数转换输入特征的线性组合,将任意实数映射到 [0, 1] 区间内。
通过引入一个决策规则(通常是概率的阈值,如 0.5),将预测的概率转换为两个类别中的一个,使其可以直接应用于二分类问题。
这样的输出可以解释为预测某个类别的概率,是处理二分类问题的理想选择。
二分类任务常用的评估指标:准确率(Accuracy)、查准率(Precision)、召回率(Recall)、F1 分数、AUC-ROC。
2、演进:多分类
但通过一些策略,如 “一对其余” (One-vs-Rest)和 Softmax 函数 ,它可以成功应用于多分类问题。这种灵活性进一步凸显了逻辑回归在实际应用中的价值
3、用什么优化算法?
Logistic 回归中使用的优化算法:梯度下降法、牛顿法(近似解)
4、如何平衡模型的拟合度和复杂度?
调整正则化强度(C),以优化泛化能力。
选择 L1 正则化、L2 正则化,或是它们的结合(即 Elastic Net 正则化),均依赖于具体问题、数据集特点以及模型性能要求。
Logistic 回归为什么适用于二分类问题?。