数据融合学习.pptx
《数据融合学习.pptx》由会员分享,可在线阅读,更多相关《数据融合学习.pptx(40页珍藏版)》请在得力文库 - 分享文档赚钱的网站上搜索。
1、神经网络性质和能力n1.非线性2.输入输出映射3.适应性4.证据响应5.背景的信息6.容错性7.VLSI 实现8.分析和设计的一致性9.神经生物类比第1页/共40页神经网络性质和能力1.非线性。一个人工神经元可以是线性或者是非线性的。一个由非线性神经元互联而成的神经网络自身是非线性的,并且非线性是一种分布于整个网络中的特殊性质。第2页/共40页2.2.输入输出映射有监督学习或有教师学习是一个学习的流行范例,涉及使用带标号的训练样本或任务例子对神经网络的权值进行修改。每个样本由一个惟一的输入信号和相应期望响应组成。从一个训练集中随机选取一个样本给网络,网络就调整它的突触权值(自由参数),以最小化
2、期望响应和由输入信号以适当的统计准则产生的实际响应之间的差别。第3页/共40页使用训练集中的很多例子重复神经网络的训练,直到网络到达没有显著的突触权值修正的稳定状态为止。先前用过的例子可能还要在训练期间以不同顺序重复使用。因此对当前问题网络通过建立输入输出映射从例子中进行学习。第4页/共40页3.3.适应性神经网络嵌入了一个调整自身突触权值以适应外界变化的能力。特别是一个在特定运行环境下接受训练的神经网络,对环境条件不大的变化可以容易进行重新训练。而且,当它在一个时变环境中运行时,网络突触权值就可以设计成随时间变化。n用于模式识别、信号处理和控制的神经网络与它的自适应能力结合,就可以变成能进行
3、自适应模式识别、自适应信号处理和自适应控制的有效工具。第5页/共40页一般规则,在保证系统保持稳定时一个系统的自适应性越好,当要求在一个时变环境下运行时它的性能就越具鲁棒性。n但是,需要强调的是,自适应性不一定导致鲁棒性,实际可能相反。为最大限度实现自适应性,系统的主要时间常数应该长到可以忽略寄生干扰,而短到可以反应环境的重要变化。第6页/共40页4.证据响应 在模式识别的问题中,神经网络可以设计成既提供不限于选择哪一个特定模式的信息,也提供决策的置信度的信息。后者可以用来拒判那些出现的过于模糊的模 式。有这些信息,网络的分类性能就会改善。第7页/共40页5.背景的信息神经网络的特定结构和激发
4、状态代表知识。网络中每一个神经元潜在地都受网络中所有其他神经元全局活动的影响。因此,背景信息自然由一个神经网络处理。第8页/共40页6.容错性一个以硬件形式实现后的神经网络有天生容错的潜质,或者鲁棒计算的能力,意即它的性能在不利运行条件下逐渐下降。比如,一个神经元或它的连接损坏了,存储模式的回忆在质量上被削弱。但是,由于网络信息存储的分布特性,在网络的总体响应严重恶化之前这种损坏是分散的。因此,原则上,一个神经网络的性能显示了一个缓慢恶化而不是灾难性的失败。第9页/共40页7.VLSI 实现神经网络的大规模并行性使它具有快速处理某些任务的潜在能力.这一特性使得神经网络很适合用超大规模集成(ve
5、ry-large-scale-integrated,VLSI)技术实现.VLSI特殊优点是提供一个以高度分层的方式捕捉真实复杂性行为的方法。第10页/共40页8.分析和设计的一致性基本上,神经网络作为信息处理器具有通用性。即涉及神经网络的应用的所有领域都使用同样记号。这种特征以不同的方式表现出来:神经元:不管形式如何,在所有的神经网络中都代表一个相同成分。这种共性使得在不同应用中的神经网络共享相同的理论和学习算法成为可能。模块化网络可以用模块的无缝集成来实现。第11页/共40页9.神经生物类比神经网络的设计是由对人脑的类比引发的,人脑是一个容错的并行处理的活生生的例子,说明这种处理不光在物理上
6、可实现的而且还是快速高效的。n神经生物学家将(人工 )神经网络看作是一个解释神经生物现象的研究工具。另一方面,工程师注意神经生物学是将其作为解决复杂问题的新思路,这些问题比基于常规的硬件线路设计技术所能解决的问题更复杂。第12页/共40页网络结构1.单层前馈网络2.多层前馈网络3.递归网络第13页/共40页网络结构1.单层前馈网络源节点构成输入层,直接映射到神经元输出层上。源节点输入层神经元输出层单层前馈或无圈神经元网络图第14页/共40页2.2.多层前馈网络网络有一层或多层隐藏节点层,相应的计算节点称为隐藏单元或隐藏神经元。隐藏神经元的功能是以某种有用方式介入外部输入和网络输出之中。加上一个
7、或多个隐藏层,网络可以引出高阶统计特性。当输入层很大的时候,隐藏层提取高阶统计特性的能力就更有价值了。第15页/共40页每一层的输入都是上一层的输出,最后的输出层给出相对于源节点的激活模式的网络输出。图中只有一个隐藏层以简化神经网络的布局。这是一个 10-42 网络,其中有 10 个源节点,4个隐藏神经元,2 个输出神经元。源节点输入层隐藏神经元层输出神经元层具有一个隐层和输出层 的全连接前馈或元圈网络图n完全连接网络,相邻层的任意一对节点都有连接。如果不 是这样,称为部分连接网络 第16页/共40页3.递归网络单层网络的每一个神经元的输出都反馈到所有其他神经元的输入中去。没有自反馈环没有隐藏
8、层。自反馈环表示神经元的输出反馈到它自己的输入上去。无自反馈环和隐藏神经元的递归网络图第17页/共40页图示是带有隐藏神经元的一类递归网络,反馈连接的起点包括隐藏层神经元和输出神经元。有隐藏神经元的递归网络第18页/共40页对于神经网络具有首要意义的性质是网络能从环境中学习的能力,并通过学习改善其行 为。对行为的改善是随时间依据某一规定的度量进行的。神经网络通过施加于它的权值和偏置水平的调节的交互过程来学习它的环境。理想情况下,神经网络在每一次重复学习过 程后对它的环境便有更多的了解。第19页/共40页神经网络的背景中定义学习学习是一个过程,通过这个过程神经网络的自由参数在其嵌入的环境的激励过
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 数据 融合 学习
限制150内