BP神经网络模型.ppt
![资源得分’ title=](/images/score_1.gif)
![资源得分’ title=](/images/score_1.gif)
![资源得分’ title=](/images/score_1.gif)
![资源得分’ title=](/images/score_1.gif)
![资源得分’ title=](/images/score_05.gif)
《BP神经网络模型.ppt》由会员分享,可在线阅读,更多相关《BP神经网络模型.ppt(28页珍藏版)》请在得力文库 - 分享文档赚钱的网站上搜索。
1、BP神经网络模型概述Rumelhart,McClelland于1985年提出了BP网络的误差反向后传BP(Back Propagation)学习算法BP算法基本原理利用输出后的误差来估计输出层的直接前导层的误差,再用这个误差估计更前一层的误差,如此一层一层的反传下去,就获得了所有其他各层的误差估计。J.McClelland David Rumelhart BP神经网络模型 三层BP网络BP神经网络模型 激活函数必须处处可导一般都使用一般都使用S型函数型函数 使用S型激活函数时BP网络输入与输出关系输入输出BP神经网络模型输出的导数根据根据S S型激活函数的图形可知型激活函数的图形可知,对神经网
2、络进行训练,应该将对神经网络进行训练,应该将netnet的值尽的值尽量控制在收敛比较快的范围内量控制在收敛比较快的范围内 BP网络的标准学习算法 学习的过程:神经网络在外界输入样本的刺激下不断改变网络的连接权值,以使网络的输出不断地接近期望的输出。学习的本质:对各连接权值的动态调整 学习规则:权值调整规则,即在学习过程中网络中各神经元的连接权变化所依据的一定的调整规则。BP网络的标准学习算法-算法思想学习的类型:有导师学习核心思想:将输出误差以某种形式通过隐层向输入层逐层反传学习的过程:信号的正向传播 误差的反向传播将误差分摊给各层的所有将误差分摊给各层的所有单元各层单元的误单元各层单元的误差
3、信号差信号 修正各单元权修正各单元权值值BP网络的标准学习算法-学习过程正向传播:输入样本输入层各隐层输出层判断是否转入反向传播阶段:若输出层的实际输出与期望的输出(教师信号)不符误差反传误差以某种形式在各层表示修正各层单元的权值网络输出的误差减少到可接受的程度进行到预先设定的学习次数为止BP网络的标准学习算法 网络结构输入层有n个神经元,隐含层有p个神经元,输出层有q个神经元变量定义输入向量;隐含层输入向量;隐含层输出向量;输出层输入向量;输出层输出向量;期望输出向量;BP网络的标准学习算法输入层与中间层的连接权值:隐含层与输出层的连接权值:隐含层各神经元的阈值:输出层各神经元的阈值:样本数
4、据个数:激活函数:误差函数:BP网络的标准学习算法 第一步,网第一步,网络初始化初始化 给各各连接接权值分分别赋一个区一个区间(-1,1)内的随机数,)内的随机数,设定定误差函数差函数e,给定定计算精度算精度值 和最大学和最大学习次数次数M。第二步第二步,随机随机选取第取第K 个个输入入样本及本及对应期望期望输出出 BP网络的标准学习算法 第三步,计算隐含层各神经元的输入和输出BP网络的标准学习算法 第四步,利用网第四步,利用网络期望期望输出和出和实际输出,出,计算算误差函数差函数对输出出层的各神的各神经元的偏元的偏导数数 。BP网络的标准学习算法第五步,利用隐含层到输出层的连接权值、第五步,
5、利用隐含层到输出层的连接权值、输出层的输出层的 和隐含层的输出计算误差函和隐含层的输出计算误差函数对隐含层各神经元的偏导数数对隐含层各神经元的偏导数 BP网络的标准学习算法BP网络的标准学习算法 第六步,利用第六步,利用输出出层各神各神经元的元的 和和隐含含层各神各神经元元的的输出来修正出来修正连接接权值 。BP网络的标准学习算法 第七步,利用第七步,利用隐含含层各神各神经元的元的 和和输入入层各神各神经元元的的输入修正入修正连接接权。BP网络的标准学习算法第八步,计算全局误差第九步,判断网络误差是否满足要求。当误差达到预设精度或学习次数大于设定的最大次数,则结束算法。否则,选取下一个学习样本
6、及对应的期望输出,返回到第三步,进入下一轮学习。BP网络的标准学习算法 BP算法直算法直观解解释情况一直情况一直观表达表达 当当误差差对权值的偏的偏导数大于零数大于零时,权值调整量整量为负,实际输出大于期望出大于期望输出,出,权值向减少方向向减少方向调整,整,使得使得实际输出与期望出与期望输出的差减少。出的差减少。whoe0,此时,此时who0BP网络的标准学习算法 BP算法直算法直观解解释情况二直情况二直观表达表达当当误差差对权值的偏的偏导数数小于零小于零时,权值调整量整量为正,正,实际输出少于期出少于期望望输出,出,权值向增大方向向增大方向调整,使得整,使得实际输出与期出与期望望输出的差减
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- BP 神经网络 模型
![提示](https://www.deliwenku.com/images/bang_tan.gif)
限制150内