第一章概论.ppt
《第一章概论.ppt》由会员分享,可在线阅读,更多相关《第一章概论.ppt(72页珍藏版)》请在得力文库 - 分享文档赚钱的网站上搜索。
1、神经网络原理,第一章,1,第一章 概论,神经网络种类生物神经网络(Biological Neural Networks)人工神经网络(Artificial Neural Networks),神经网络原理,第一章,2,1.1 生物神经元及生物神经网络 (Biological Neuron and Biological Neural Networks)1.2 人工神经网络(Aritificial Neural networks)1.3 ANN的发展 (Development of ANN)1.4 ANN与AC (ANN and Automatic Control),神经网络原理,第一章,3,1.1
2、 生物神经元网络,1.1.1生物神经元 1.1.2人脑神经网络,神经网络原理,第一章,4,1.1.1 生物神经元。,人的大脑由1012个神经元构成,神经元互相连接成神经网络神经元组成:细胞体为主体1873年, 意大利 Cajai 银渗透法 发现Golgi 体神经元功能:刺激、兴奋、传导、效应形状图神经元类型原则突触传递信息特点,神经网络原理,第一章,5,形状图,神经网络原理,第一章,6,类型,单极无脊椎动物双极视网膜神经元neuron多极脊椎、锥体、小脑蒲根,神经网络原理,第一章,7,原 则,Cajai将Golgi方法用于神经元研究,得到两条原则,奠定了神经元间信息传递的理论基础原则1 动态极
3、化原则(即信号沿确定方向流动) 树突 轴突 突触 其他神经元原则2 连接的专一性原则 神经元之间元细胞质的连续 神经元不构成随机网络 每一神经元与一些神经元形成特殊的精确的联系,神经网络原理,第一章,8,突触传递信息特点,1 时延性 :(0.31ms)2 综合性 :时间与空间的累加3 类型:兴奋与抑制4 脉冲与电位转换: (D/A功能)5 速度:1150m/s6 不应期(死区):35ms7 不可逆性(单向)8 可塑性 :强度可变 ,有学习功能,神经网络原理,第一章,9,1.1.2 人脑神经网络,脑神经系统主要组成部分大脑皮层由许多功能区组成(运动、听觉、视觉等) 神经元群 其区域性结构:遗传
4、其功能:后天对环境的适应于学习得来 (自组织特性Self-Organization) 子功能模块的并行关系 a) 连接形式 b) 大脑处理信息的特点 C) 生物学研究成果,神经网络原理,第一章,10,连接形式,辐射式:一到多聚合式:多到一链锁式:空间上加强与扩大作用环式:反馈作用(可正可负),神经网络原理,第一章,11,辐射式:一到多,神经网络原理,第一章,12,聚合式:多到一,神经网络原理,第一章,13,链锁式:空间上加强与扩大作用,神经网络原理,第一章,14,环式:反馈作用(可正可负),神经网络原理,第一章,15,大脑处理信息的特点,分布存储与冗余性:记忆在大量元中,每个元存在许多信息的部
5、分内容,信息在神经网络中的记忆反映在神经元间的突触连接强度上(weights)。并行处理:NN既是处理器又是存储器(并行处理不同于并行机)。信息处理与存储合一:每个元兼有二者功能。可塑性与自组织性:可塑性是学习记忆的基础。鲁棒性:高连接度导致一定的误差和噪声不会使网络性能恶化。是智能演化的重要因素。,神经网络原理,第一章,16,BNN研究成果,H-H方程 英 A.L.Hodgkin与A.F.Huxley 长枪乌贼鱼电器特性 得到四个变量的非线性微分方程,获Nobel生物医学奖 许多NL问题可用此解释 e.g. 自激振荡 chaos. 多重稳定性等,神经网络原理,第一章,17,1.2 人工神经网
6、络,研究大脑的目的:a)揭示功能造福人类 b)构造ANN用于工程及其他领域(生物神经网络的模型化:ANN) BNN modelingANN ANN非BNN模型,而是对结构及功能大大简化后保留主要特性的某种抽象与模型。,神经网络原理,第一章,18,神经网络直观理解,神经网络是一个并行和分布式的信息处理网络结构,它一般由许多个神经元组成,每个神经元只有一个输出,它可以连接到很多其他的神经元,每个神经元输入有多个连接通道,每个连接通道对应于一个连接权系数。,神经网络原理,第一章,19,人工神经网络内容,1.2.1人工神经元模型 (Artificial Neuron model)1.2.2人工神经网络
7、的构成 (structure of ANN)1.2.3人工神经网络的学习 (learning or training of ANN)1.2.4 ANN与BNN的特点比较 (Comparison of features between ANN and BNN),神经网络原理,第一章,20,1.2.1 人工神经元模型 BNN 信息传递过程 为 MISO 系统,信号为脉冲,当脉冲到达突触前膜时,前膜释放化学物质,结果在突触后产生突触后电位,其大小与脉冲密度有关(时间总合效应)。 各通道都对电位产生影响(空间总合效应)。,神经网络原理,第一章,21,BNN 脉冲, ANN 模拟电压ANN等效模拟电压近
8、似BNN脉冲密度,仅有空间累加无时间累加(可认为时间累加已隐含于等效模拟电压之中)ANN中未考虑时延、不应期及疲劳等 可建立更为精确的模型,但一般NN研究无此必要(方法论),神经网络原理,第一章,22,神经元模型(1),神经元是人工神经网络的基本处理单元,它一般是一个多输入/多输出的非线性元件。神经元输出除受输入信号的影响之外,同时也受到神经元内部其他因素的影响,所以在人工神经元的建模中,常常还加有一个额外输入信号,称为偏差(bais),有时也称为阀值或门限值。,神经网络原理,第一章,23,神经元模型(2),。,神经网络原理,第一章,24,抽象可得数学表达式:,数值(weights) 阀值(t
9、hreshold) 作用函数(activated transfer function),神经网络原理,第一章,25,作用函数的基本作用,1、控制输入对输出的激活作用;2、对输入、输出进行函数转换;3、将可能无限域的输入变换成指定的有限范围内的输出。,神经网络原理,第一章,26,几种常用的作用函数,1、阀值型(硬限制型) 2、线性型 3、S型函数(Sigmoid) 4、辐射基函数,神经网络原理,第一章,27,1、阀值型(硬限制型),神经网络原理,第一章,28,神经网络原理,第一章,29,2、线性型a) 全线性,神经网络原理,第一章,30,b) 正线性,神经网络原理,第一章,31,3、S型函数(S
10、igmoid)a) 对数正切 y=1/(e-n+1),神经网络原理,第一章,32,b)双曲正切 y=tanh(n),神经网络原理,第一章,33,4.辐射基函数a) 高斯函数,神经网络原理,第一章,34,b)三角波函数,神经网络原理,第一章,35,人工神经网络的构成,基本模型连接的几种基本形式前向网络(feed-forward Networks)回归网络(recurrent Networks)互联网络(全互连与局部互连)也可是以上几种形式的组合,神经网络原理,第一章,36,神经网络基本模型,神经网络原理,第一章,37,前向网络,结构图,神经网络原理,第一章,38,前向网络特点,1. 神经元分层排
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 第一章 概论
限制150内