神经网络主要有三个基本要素:权重、偏置和激活函数。
权重: 神经元之间的连接强度由权重表示,权重的大小表示可能性的大小
偏置: 偏置的设置是为了正确分类样本,是模型中一个重要的参数,相当于加入一个常数。
激活函数: 起非线性映射的作用,其可将神经元的输出幅度限制在一定范围内,一般限制在(-1~1) 或 (0~1) 之间。最常用的激活函数是Sigmoid函数,其可将 (-∞,+∞) 的数映射到(0~1) 的范围内。
典型的MLP包括包括三层:输入层、隐层和输出层,MLP神经网络不同层之间是全连接的( 全连接的意思就是:上一层的任何一个神经元与下一层的所有神经元都有连接)。