1+e-z)。
σ(z)是一个平滑、连续的函数。而且，它的输出也是0~1之间的实数，这个输出值可以直接作为下一层神经元的输入，保持在0~1之间。
可以想象，在采用sigmoid神经元组装神经网络之后，网络的输入和输出都变为连续的了，也就是说，当我们对某个参数的值进行微小的改变的时候，它的输出也只是产生微小的改变。这样就使得逐步调整参数值的训练成为可能。
在历史上，很多研究人员曾经也做过尝试，Michael Nielsen的书《Neural Networks and Deep Learning》这本书中也曾经提到过这个例子。
这个神经网络只有一层隐藏层，属于浅层的神经网络(shallow neural networks)。而真正的深度神经网络(deep nerual networks)，则会有多层隐藏层。
神经元系统采用了左右脑半球的设计方式进行设计和制造。
最右侧则是输出层(output layer)，有10个神经元节点，分别代表识别结果是0，1，2，...，9。当然，受sigmoid函数σ(z)的限制，每个输出也肯定是0~1之间的数。
那我们在得到一组输出值之后，哪个输出的值最大，最终的识别结果就是它。
而在训练的时候，输出的形式则是：正确的那个数字输出为1，其它输出为0，隐藏层和输出层之间也是全连接。
而神经网络共的权重参数有784*15+15*10=11910个，偏置参数有15+10=25个，总共参数个数为：11910+25=11935个。
这是一个非常惊人的数字。
32217088
萌主天下无敌提醒您：看完记得收藏【爱普书院】 www.ipude.com，下次我更新您才方便继续阅读哦，期待精彩继续！您也可以用手机版：m.ipude.com，随时随地都可以畅阅无阻...