智能信息处理课程概述.pptx

目录1.1 智能信息处理的产生及发展 1.1.2 智能计算的产生与发展1.2 智能信息处理的主要技术1.3 智能技术的综合集成第1页/共41页1.1 智能信息处理的产生及发展 图1.1 1.1 信息技术的四个组成部分及其信息链测量技术传感技术网络技术智能技术智能感知智能行为可靠传递智能思维第2页/共41页信息信息（Information），一般可理解为消息、情报或知识。例如，语言文字是社会信息；商品报导是经济信息；遗传密码是生物信息等。从物理学观点出发来考察，信息是物质所固有的，是其客观存在或运动状态的特征。信息本身不是物质，不具有能量，但信息的传输却依靠物质能量。一般来说，传输信息的载体称为信号（Signal），信息蕴涵于信号之中。第3页/共41页智能n智能就是智慧和能力，智能就是智慧和能力，是个体有目的的行是个体有目的的行为，合，合理的思理的思维，以及有效的适，以及有效的适应环境的境的综合性能力合性能力个体认识客观事务和运用知识解决问题的能力。n人们常把传感器比作人的感官，计算机比作人的大脑。n从信息化角度出发，“智能”应体现在三个方面，即：感知，信息的获取；思维，信息的处理；行为，信息的利用。第4页/共41页智能ABC生物智能(Biological(Biological Intelligence,BI)Intelligence,BI)人工智能(Artifical(Artifical Intelligence,AI)Intelligence,AI)计算智能(Computational(Computational IntelligenceIntelligence，CICI）由数学方法和计算机实现的，CICI的来源是数值计算和传感器是非物质的，是人造的，常用符号表示，AIAI的来源是人的知识精华和传感器数据）由人脑的物理化学过程反映出来,人脑是有机物,它是智能的物质基础B(B(有机）A(A(符号）C(C(数值）第5页/共41页智能计算n目前国际上提出智能计算就是以人工神经网络为主导，与模糊逻辑系统、进化计算以及信号与信息处理学科的综合集成。n新一代的智能计算信息处理技术是神经网络、模糊系统、进化计算、混沌动力学、分形理论、小波变换、人工生命等交叉学科的综合集成。第6页/共41页智能计算的两个重要特征1 1）智能计算与传统人工智能不同，主要依赖的是生产者提供的数字材料，而不是依赖于知识；它主要借助数学计算方法(特别是与数值相联系的计算方法)的使用。一方面，具有明显的数值计算信息处理特征；另一方面，强调用“计算”的方法来研究和处理智能问题。CI中计算的概念在内涵上已经加以拓广和加深。一般地，在解空间进行搜索的过程都被称为计算。第7页/共41页智能计算的两个重要特征2 2）智能计算的积极意义在于：促进基于计算的或基于计算和基于符号物理相结合的各种智能理论、模型、方法的综合集成，以便在智能计算这个主题下发展思想更先进、功能更强大、能够解决更复杂问题的大系统的智能科学成果。第8页/共41页两类智能信息处理基于传统计算机的智能信息处理基于神经计算的智能信息处理第9页/共41页基于传统计算机的智能信息处理n包括智能仪器、自动跟踪监测仪器系统、自动控制制导系统、自动故障诊断系统等。n在人工智能系统中，它们具有模仿或代替与人的思维有关的功能，通过逻辑符号处理系统的推理规则来实现自动诊断、问题求解以及专家系统的智能。n这种智能实际上体现了人类的逻辑思维方式，主要应用串行工作程序按照一些推理规则一步一步进行计算和操作，目前应用领域很广。n其发展速度已不太适应社会信息数量增长速度的需求，因而促使人们注意到新型智能信息处理系统的研究。第10页/共41页基于神经计算的智能信息处理nANNANN是模仿延伸人脑认知功能的新型智能信息处理系统。构造具有脑智能的人工智能信息处理系统，可以解决传统方法所不能或难以解决的问题（大脑是人的智能、思维、意识等一切高级活动的物质基础）。以联接机制为基础的神经网络具有大量的并行性、巨量的互连性、存储的分布性、高度的非线性、高度的容错性、结构的可变性、计算的非精确性等特点。n基于神经计算的智能信息处理是模拟人类形象思维、联想记忆等高级精神活动的人工智能信息处理系统。能联想记忆和从部分信息中获得全部信息。分布式存储和自组织性，而使系统连接线即使被破坏了50，它仍能处在优化工作状态，这在军事电子系统设备中有着特别重要的意义。第11页/共41页1.2 1.2 智能信息处理的主要技术n神经计算技术神经网络(Artifical Neural Network,ANN)主元分析(Principal Component Analysis,PCA)支持向量机(Support Vector Machine,SVM)n模糊计算技术模糊理论(Fuzzy Sets,Fuzzy Theory)粗糙集理论(Rough Set Theory)n进化计算技术遗传算法(Genetic Algorithm)进化策略(Evolution Strategy)进化规划(Evolutionary Programming)蚁群优化(Ant Colony Optimization,ACO)微粒群算法(Particle Sarm Optimization，PSO)第12页/共41页神经计算技术脑神经系统n脑神经系统是以离子电流机构为基础的由神经细胞组成的非线性的(Nonlinear)、适应的(Adaptive)、并行的(Parallel)和模拟的(Analog)网络(Network)，简称NAPAN。n在脑神经系统中，信息的收集、处理和传送都在细胞上进行。n各个细胞基本上只有兴奋与抑制两种状态。n神经细胞的响应速度是毫秒级，比半导体器件要慢得多。第13页/共41页神经计算技术神经网络n人工神经网络是对真实脑神经系统构造和功能予以极端简化的模型。n神经网络的主要特征是大规模的并行处理、分布式的信息存储、良好的自适应性、自组织性以及很强的学习功能、联想功能和容错功能。n与冯诺依曼计算机相比，神经网络的信息处理模式更加接近人脑。n主要表现在以下几个方面：第14页/共41页神经计算技术神经网络能够处理连续的模拟信号(例如连续变换的图像信号)。能够处理不精确的、不完全的模糊信息。冯诺依曼计算机给出的是精确解，神经网络给出的是次最优的逼近解。神经网络并行分布工作，各组成部分同时参与运算；单个神经元的动作速度不快，但网络总体的处理速度极快。第15页/共41页神经计算技术神经网络神经网络具有鲁棒性，即信息分布于整个网络各个权重变换之中，某些单元的障碍不会影响网络的整体信息处理功能。神经网络具有较好的容错性，即在只有部分输入条件，甚至包含了错误输入条件的情况下，网络也能给出正确的解。神经网络在处理自然语言理解、图像识别、智能机器人控制等疑难问题方面具有独到的优势。第16页/共41页神经计算技术神经网络n神经网络以联接主义为基础，是人工智能研究领域的一个分支。n它从微观出发，认为符号是不存在的，认知的基本元素就是神经细胞。n认知过程是大量神经细胞的连接引起神经细胞不同兴奋状态和系统表现出的总体行为。第17页/共41页神经计算技术神经网络n传统的符号主义与其不同。n符号主义认为，认知的基本元素是符号，认知过程是对符号表示的运算。n人类的语言、文字、思维均可用符号来描述，而且思维过程只不过是这些符号的存储、变换和输入、输出而已。n以这种方法实现的系统具有串行、线性、准确、易于表达的特点，体现了逻辑思维的基本特性。n20世纪70年代的专家系统和80年代日本的第五代计算机研制计划就体现了典型的符号主义思想。第18页/共41页神经计算技术神经网络n基于符号主义的传统人工智能和基于联接主义的神经网络分别描述了人脑左、右半脑的功能(逻辑思维、形象思维)，n反映了人类智能的两重性：一方面是精确处理，对应认知过程的理性方面。另一方面是非精确处理，对应认知过程的感性方面。n两者的关系是互补的，不能相互替代。n理想的智能系统及其表现的智能行为应是两者相互结合的结果。第19页/共41页神经计算技术主元分析n主元分析（principal component analysis,PCA）就是这样的一种降维技术。n是神经计算中近些年来发展的一种方法，通过把数据投影到能够准确表征过程状态的低维空间，降维技术可以简化和改进过程监控过程。n它以某种方式产生低维表示，这种方式保留了过程变量间的关系结构，按获取数据的变化度来说是最优的。第20页/共41页神经计算技术支持向量机n支持向量机（support vector machine,SVM）是建立统计学习理论基础上的一种新型的神经网络。n统计学习理论是针对小样本情况研究统计学习规律的理论，是传统统计学的重要发展和补充，为研究有限样本情况下机器学习的理论和方法提供了理论框架，其核心思想是通过控制学习机器的容量实现对推广能力的控制。n在这一理论中发展出的支持向量机方法是一种新的通用学习机器，较以往方法表现出很多理论和实践上的优势。第21页/共41页模糊计算技术模糊集合和模糊理论n1965年，美国加州大学伯克莱分校LZadeh教授发表了著名的论文“Fuzzy SetsFuzzy Sets”(模糊集)，开创了模糊理论。n经历近三十年的曲折，这一领域已取得长足的进步，Zadeh也被国际上誉为“模糊之父”。n最近十年来，模糊理论又在实际应用中获得重大突破，作为一种高新技术还在迅速发展，n预计21世纪它将成为信息科学中的核心技术之一。第22页/共41页模糊计算技术模糊集合和模糊理论nZadeh教授当初曾提出过一个著名的不相容原理：“随着系统复杂性增加，人们对系统进行精确而有效地描述的能力会降低，直至一个阈值，精确和有效成为互斥”。n其实质在于：真实世界中的问题，概念往往没有明确的界限，而传统数学的分类总试图定义清晰的界限，这是一种矛盾，一定条件下会变成对立的东西。n模糊理论的基本出发点：从而引出一个极其简单而又重要的思想：任何事情都离不开隶属程度这样一个概念。第23页/共41页模糊计算技术模糊集合和模糊理论n模糊理论源于美国，但长期以来受学派之争的束缚，实际应用进展缓慢。n到20世纪80年代后期，在日本以家用电器广泛使用模糊控制作为突破口，使模糊逻辑的实际应用获得迅速发展。n20世纪90年代初，美国已醒悟到“美国人的理论却让日本人赚钱”的教训，工业界也已行动起来。n美国IEEE分别自1992年和1993年开始，专门针对“模糊系统”主题定期举行国际会议和出版学术期刊。n中国从事模糊数学的研究比较早，并处于国际前列。但由于众所周知的原因，应用仍有一定差距。n模糊技术有许多诱人的优越性，应用前景看好，但毕竟还是新兴技术，尚不成熟，有许多问题需要研究和解决。第24页/共41页模糊计算技术粗糙集理论n粗糙集理论是一种新的处理模糊和不确定性知识的数学工具。n其主要思想就是在保持分类能力不变的前提下，通过知识约简，导出问题的决策或分类规则。n当今社会已经进入了网络信息时代，计算机与网络信息技术的飞速发展使得各个领域的数据和信息急剧增加（信息爆炸），并且由于人类的参与使数据与信息系统中的不确定性更加显著（复杂系统）。n如何从大量的、杂乱无章的、强干扰的数据（海量数据）中挖掘潜在的、有利用价值的信息（有用知识）,这给人类的智能信息处理能力提出了前所未有的挑战。第25页/共41页进化计算技术n进化计算是智能计算的重要组成部分，受到众多学科的高度重视。n20世纪50年代中期创立了仿生学。许多科学家从生物中寻求新的用于人造系统的灵感。一些科学家分别独立地从生物进化的机理中发展出适合于现实世界复杂问题优化的模拟进化算法，主要有：Holland，Bremermann等创立的遗传算法，Rechenberg和Schwfel等创立的进化策略,Fogel，Owens，Walsh等创立的进化规则。Fraser，Baricelli等做了生物系统进化的计算机仿真。很遗憾，他们没有引入到人工系统。n遗传算法、进化策略及进化规则均来源于达尔文的进化论，但侧重进化层次不同，而遗传算法研究最为深入、持久，应用面也最广。第26页/共41页进化计算技术遗传算法n从20世纪60年代开始，密歇根大学教授Holland开始研究自然和人工系统的自适应行为。n在这些研究中，他试图发展一种用于创造通用程序和机器的理论。通用程序和机器具有适应任意环境的能力。n他意识到用群体方法搜索以及选择、交换等等操作策略的重要性，并开创与目前类似的复制、交换、突变、显性、倒位等基因操作，提出了重要的模式理论，建议采用二进制编码。第27页/共41页进化计算技术蚁群算法n蚁群优化（ant colony optimization，ACO）是一种针对难解的离散优化问题的元启发式算法，它利用一群人工蚂蚁的协作来寻找好的解。n协作是ACOACO算法设计中的关键要素：主要部分是把计算资源分配到一群相对简单的智能体（agent）上，这些agent之间通过媒介质（stigmergy）进行间接通信，也就是说，agent之间进行的是一种以环境的变化为媒介的间接通信形式。n好的解就是通过agentagent之间的相互协作而得到的。第28页/共41页进化计算技术微粒群算法n微粒群算法是由美国社会心理学家James Kennedy和电器工程师Russen Eberhart在1995年共同提出的，是继蚁群算法之后又一种新的群体智能算法，目前已成为进化算法的一个重要分支。n微粒群算法自提出以来，在国外得到了相关领域众多学者的关注与研究。nCEC国际年会上，微粒群算法被作为一个独立的研究分支，与遗传算法、进化规划等进化算法相提并论。第29页/共41页进化计算技术微粒群算法n微粒群优化(particle swarm optimization,PSO)实际上是一种模仿鸟类群体行为的进化算法。n这种算法体现着一种简单朴素的智能思想：鸟类使用简单的规则来确定自己的飞行方向和速度，试图停落在鸟群中而不致相互碰撞。n这种思想产生了一个数学上的优化算法：与其他进化类优化算法相类似，也采用“群体”和“进化”的概念，同样也是依据个体的适应值大小进行操作，所不同的是把每个个体视为在搜索空间中的一个没有重量和体积的微粒，并在搜索空间中以一定的速度飞行。该飞行速度则由个体和群体的飞行经验进行动态调整，从而获得一个很好的寻优方案。n这种算法正显示着巨大的潜在用途。第30页/共41页1.3 智能技术的综合集成n随着模糊逻辑、神经网络、进化计算、混沌与分形、小波分析、人工生命以及人工智能等交叉学科的综合集成不断深入和发展，n用智能计算技术来解决复杂智能行为已成为智能模拟、智能信息处理、智能控制、智能建筑、智能制造、智能多媒体通信、智能机器人、智能计算机、智能管理系统、智能决策系统等领域研究的新兴热门话题，并将在推动高度智能系统化的发展方面，起到重大的关键性作用。n当今智能计算信息处理技术正处于蓬勃发展阶段，如何将模糊技术、神经网络、进化计算、混沌与分形、小波变换等有机结合起来，发挥各自的特点，显然是智能计算信息处理中的一个核心问题。第31页/共41页1.3 智能技术的综合集成n模糊系统与神经网络结合n神经网络和遗传算法结合n模糊技术、神经网络和遗传算法综合集成第32页/共41页模糊系统与神经网络结合模糊系统与神经网络结合n模糊技术与神经网络技术各有自己的优点：前者以模糊逻辑为基础，抓住了人类思维中的模糊特点，以模仿人的模糊综合判断推理来处理常规方法难以解决的模糊信息处理难题，使计算机应用扩大到了人文、社会和心理学等领域。后者以生物神经网络为模拟基础，试图在模拟推理及自动学习等方面向前发展一步，使人工智能更接近人脑的自组织和并行处理等功能，它在模式识别、聚类分析和专家系统等方面已显示了新的前景和新的思路。n如果将它们进行综合，即将符号逻辑推理方法与联接机制方法进行有机结合，可有效地发挥各自的优势并弥补其不足。模糊技术的特长在于逻辑推理能力，容易进行高层的信息处理，将模糊技术引入神经网络可大大地拓宽神经网络处理信息的范围和能力，使其：不仅能处理精确信息，也能处理模糊信息和其他不精确信息，不仅能实现精确性联想映射，还可以实现不精确性联想映射，特别是模糊联想及模糊映射。第33页/共41页模糊系统与神经网络结合模糊系统与神经网络结合n模糊技术与神经网络有很多共同点首先，它们都是着眼于模拟处理人的思维。其次，它们在形式上也有不少相似之处，比如，模糊集合理论中的隶属函数与神经网络的输出特性之间，模糊逻辑推理中的max-min运算与神经元对其输入的加权与运算之间，这也使得它们的有机结合得以方便实现。第34页/共41页神经网络和遗传算法结合神经网络和遗传算法结合n神经网络(NN)和遗传算法(GA)都是将生物学原理应用于科学研究的仿生学理论成果。但来源并不相同：GA是从自然界生物进化机制获得启示的，而NN则是人脑若干基本特性的抽象和模拟。n因此，它们在信息处理时间上存在较大的差异：神经系统的变化只需极其短暂的时间，而生物的进化却需以世代的尺度来衡量。n近年来，已有越来越多的研究人员尝试着GA与NN相结合的研究，希望通过结合充分利用两者的长处，寻找一种解决问题有效的方法，同时，也借助这种结合使得人们更好地理解学习与进化的相互作用关系。n有关这一主题已成为人工生命领域中十分活跃的课题。第35页/共41页神经网络和遗传算法结合神经网络和遗传算法结合NN和GA的结合表现在以下两个方面：一方面是辅助式结合，比较典型的是用GA对信息进行预处理，然后用NN求解问题，比如在模式识别中先利用GA进行特征提取，而后用NN进行分类；另一方面是合作方式结合，即GA和NN共同求解问题。这种结合的一种方式是在固定神经网络拓扑结构的情况下，利用GA研究网络的连接权重，另一种方式是直接利用GA优选NN的结构，然后用BP算法训练网络。第36页/共41页模糊技术、神经网络和遗传算法综合集成nNN、GA和FL三者的合理融合，其优势将远高于现在。n用NN、FL和GA综合集成一个神经网络推理、控制和决策智能信息处理系统可以用GA调节和优化具有全局性的网络参数和结构，用神经网络学习方法调节和优化具有局部性的参数，这样，GA作为一种粗优化或离线学习过程，用NN学习作为一种细优化或在线学习过程，这两种方法综合使用可以大大提高模糊神经网络系统的性能。第37页/共41页智能计算展望n智能计算作为一门新兴学科，在理论上还很不成熟，还有待进一步研究和发展，n要真正实现智能计算信息处理和智能模拟只单纯依靠一两种方法是很难做到的，需要多种方法综合集成才能达到智能计算模拟。n一般认为智能计算包括神经计算、模糊计算和进化计算三个主要方面，n其积极意义在于促进了基于计算和物理符号相结合的各种智能理论、模型，功能更强大，并能够实现更复杂系统的智能行为。第38页/共41页智能计算展望n目前国际上智能计算研究正注意如下几个方面的结合：神经网络与模糊系统和进化计算的结合；神经网络与模糊及混沌三者的结合；神经网络与近代信号处理方法小波、分形的结合；专家系统与模糊逻辑、神经网络的结合，以便有效地模拟人脑的思维机制，使人工智能导向生物智能。n神经网络分为人工神经网络(ANN)、生物神经网络(BNN)及计算神经网络（CNN），即所谓ABC神经网络。n支持向量机理论、主分量分析的发展丰富和发展了神经计算；n粗糙集理论的出现为模糊计算提供了新的理论研究方向；n微粒群算法和蚁群智能的出现为进化计算注入新的理论基础。第39页/共41页智能计算展望n总之，智能计算信息处理和智能模拟系统要研究的内容十分丰富，目前正向纵深方向发展。n智能计算涉及的几个方面技术虽然愈来愈为人们所认识，仅作为一个学科分支的整体来看，它应该有新的理论框架、基本模式、核心技术，有自己的计算系统和计算处理方法，所有这些问题都有待于进一步开发。n需要建立智能计算研究的综合集成环境，研究支持智能计算发展的集成开发环境，建立高度智能化的处理系统。第40页/共41页感谢您的观看！第41页/共41页