前馈神经网络由三个主要部分组成:
- 输入层: 负责接收原始数据,通常对应于特征的维度。
- 隐藏层: 包含一个或多个层,每层由多个神经元组成,用于
- 提取输入数据的抽象特征。
- 输出层: 产生网络的最终预测或分类结果
激活函数:引入非线性特性,使网络能够学习复杂的函数。常见的如ReLU、Sigmoid、Tanh等
权重和偏置:神经网络的可学习参数,它们在训练过程中不断调整,以最小化预测错误。
损失函数: 用于衡量网络预测与实际目标之间的差异,常见的损失函数包括均方误差(MSE)、交叉熵损失等。
反向传播(BP)算法: 通过链式法则,从输出层向输入层逐层计算梯度。
避免过拟合的策略:早停法(Early Stopping)、正则化等。