一·介绍
逻辑回归是处理二分类问题的线性模型,通过sigmoid函数将线性输出映射到[0,1],输出事件发生概率,广泛用于预测与分类。
如果做坐标的话,特征就是p1和p2,结果就是y红的与绿的
二·Sigma函数
代码说明
Sigmoid 函数定义:
sigmoid(x)
实现了 Sigmoid 公式:
-x可以看成y
逻辑回归模型原理示意:先由线性函数 (y = kx + b) 输出结果,的Sigmoid函数转换,将线性输出映射到0 - 1区间,把线性可分数据的分类问题,转化为用概率判断0或1类别的问题,简化分类求解 。
放出为方程,笔误抱歉改的时间成本很高,见谅
最终是为了求h(x)中的
0
1
2
二·数学
逻辑回归
1·线性回归结果:
2·带入 sigmoid 函数:
3·对于二分类任务:
就表示sigmoid函数的另一个分类
4·整合
4这里的 y如果是红色的话应该是1那么右边的式子就是0消失了,反之如果是0绿色左边是1不影响结果所以是这样的原理
逻辑回归 - 求解
1·似然函数:
2·对数似然
3·转换为梯度下降任务(损失函数)
(1·最小二乘法求解极值2梯度下降也可以求极值)
4·目标函数这是逻辑回归(Logistic Regression)中的代价函数(Cost Function),也叫交叉熵损失函数(Cross - Entropy Loss) ,公式为:
这是关于 ** 梯度(Gradient)** 的数学定义:
- 实体信息为 “梯度” 的概念阐述,即梯度是函数全部偏导数构成的向量,其方向是函数值增长最快的方向 ,常用于机器学习、微积分等领域,指导函数优化(如梯度下降法找极值) 。