（本科）P1C2体系论ppt课件.pptx

课程主讲人：（本科）P1C2-体系论ppt课件人工智能原理人工智能原理Principles of Artificial Intelligence某某大学某某学院某某某3第2章 体系论人工智能原理n 从1940年代至今，在机器智能乃至人工智能的发展过程中，涌现出许多种研究途径与方法。n 此外，随着人工智能的不断发展，派生出许多子领域。n 但人工智能的研究体系是什么，这方面系统性论述的文章尚不多见。n 本章试图追本溯源、由表及里，做一些探讨。第2章 体系论引言4人工智能原理第2章 体系论目录5o 人工智能的研究途径o 人工智能的主体论点o 智能主体的环境o 智能主体的构成o 人工智能的研究体系o 智能主体的思维o 智能主体的交互o 智能主体的类型人工智能原理n 1940年代至1950年代，许多学者探讨了神经学（Neurology）、信息论（Information theory）和控制论（Cybernetics）之间的关系。n 控制论和人工智能的差异：n 控制论是研究目标导向系统（Goal-directed System）n 人工智能是研究智能机器（Intelligent Machines）。n 赫伯特西蒙（Herbert Simon）和艾伦纽厄尔（Allen Newell）研究了人类进行问题求解的技能，并且尝试对其形式化。他们的工作奠定了人工智能、认知科学（Cognitive Science）、运筹学（Operations Research）以及管理学（Management Science）的基础。人工智能的研究途径控制论与人工智能6人工智能原理n 符号人工智能（Symbolic AI）是基于人类易懂的高级符号进行问题表征、推理和搜索的人工智能方法。n 符号系统亦称为形式系统，用符号组合成表达式，并通过逻辑关系使其产生新的表达式。人工智能的研究途径符号与亚符号7n 符号人工智能的学者认为：符号是人类易懂的高级表现形式，知识可以由语义上有意义的符号结构所组成，符号能够表征实体，这些实体可以是抽象、亦或是具象的，智能的许多方面能够通过符号操作来获得。n 符号人工智能在1950年代中期至1980年代后期成为人工智能研究的主流。其成功的表现形式是专家系统（Expert systems）。人工智能原理n 符号系统无法模拟人类认知的全部过程，在智能感知、机器人技术、机器学习和模式识别方面表现尤为突出。n 亚符号人工智能（Sub-symbolic AI）学者认为，智能行为可以通过语义上无意义的亚符号获得，人工智能应该允许不精确、不确定和不完备的信息。人工智能的研究途径符号与亚符号8n 亚符号人工智能的基本前提是：不精确和不确定性是普遍存在的事实；精确性和确定性带来局限性和成本。 n 神经网络、统计学、概率论、数值优化等，是亚符号方式的实现途径。n 亚符号人工智能的指导原则是：利用对不精确、不确定和不完备事实的容忍度来实现人工智能，所带来的益处是具有易处理、鲁棒和低成本的解决方案。人工智能原理n 整齐（Neat）、不整齐（Scruffy）是人工智能研究途径的另一类标签。n 整齐与不整齐，最初是由罗杰尚客（Roger Schank）于1970年代中期提出的。n 整齐派认为，人工智能的解决方案应该是优雅的、清晰的、并且可证明是正确的。n 整齐：基于逻辑和逻辑的形式化扩展。人工智能的研究途径整齐与不整齐9n 不整齐派确信，智能太复杂，无法用整齐方法解决复杂的人工智能问题。n 不整齐：采用无定形的语义网络等形式。n 马文明斯基（Marvin Minsky）认为：n 人们喜欢标签，但是不谈研究工作的内容、孤立地推行人工智能的特定研究途径并非有益。人工智能原理n 约翰麦卡锡（John McCarthy）认为，机器无需仿真人类的思维，应该去发现抽象推理和问题求解的本质，而不必关注人类是否使用同样的算法。n 麦卡锡所领导的斯坦福人工智能实验室（Stanford Artificial Intelligence Laboratory, SAIL）专注于使用形式逻辑来解决各种问题。n 形式逻辑被称为基于逻辑（Logic-based）的方法 。n 逻辑编程语言Prolog的出现，推进了逻辑编程技术的发展。n 知识系统（Knowledge-based system）是基于逻辑和规则。n 1970年前后，开始研究如何在人工智能的应用中构建知识。专家系统（Expert System）是第一个商用的AI软件。n 专家系统最早是由斯坦福大学的爱德华费根鲍姆（Edward Feigenbaum）提出的，故被称之为专家系统之父。人工智能的研究途径逻辑与反逻辑10爱德华费根鲍姆人工智能原理n 以麻省理工学院的马文明斯基为代表的研究者们发现，解决视觉和自然语言处理的难题需要一些特殊的方法。n 他们主张，没有简单和通用的逻辑能涵盖人工智能的所有方面，故而被称为反逻辑（Anti-logic）。n 罗杰尚克（Roger Schank）将他们的反逻辑方式描述为“不整齐”的方法，与卡内基梅隆大学和斯坦福大学的“整齐”范式形成鲜明对照。n 常识知识库（Commonsense knowledge bases）就是不整齐AI的示例，因为它们必须用手工构建，每次一个复杂的概念。人工智能的研究途径逻辑与反逻辑11人工智能原理n 符号主义（Symbolism）凭借符号及符号之间的关系来表征信息和知识，通过对符号的存储、提取、推理和变换来完成人类的认知。n 联结主义（Connectionism）常见的形式是人工神经网络。是人工智能以及认知心理学、认知科学、神经科学和心理哲学等领域的一种理论与方法。n 行为主义（Behaviorism）模拟人类的行为特性，即自寻优、自适应、自学习。还是一种智能主体与其环境交互的模型，对决策理论规划（Decision-Theoretic Planning）和强化学习（Reinforcement learning）产生了重要影响。人工智能的研究途径符号主义、联结主义与行为主义12人工智能原理n 1990年代起，将概率论和统计学方法作为人工智能的框架。n 概率论是统计学的理论基础，而统计学是概率论的实际应用。n 概率（Probability）可用于表示和处理不确定性，常用的方法：n 概率规划（Probabilistic programming）n 贝叶斯推理（Bayesian reasoning）n 统计（Statistic）被用于：n 机器学习（Machine learning），即统计学习（Statistical learning）n 规划（Planning）n 决策（Decision making）人工智能的研究途径概率与统计方法13人工智能原理n 计算心理学（Computational Psychology）通过创建与人类行为相同的计算机程序来理解人类的心理活动。程序的算法和数据结构应该与人类实际使用的算法和数据结构相同。n 计算哲学（Computational Philosophy）形成对人类智能行为的计算理解（computational understanding），而不局限于人类心智实际上（或者可能）使用的算法和数据结构。n 机器智能（Machine Intelligence）旨在创造具有智能的机器。面向任务而不是面向一般的智能行为或理解，可以使用任何技术来完成该任务，即使人类不使用该技术。人工智能的研究途径计算心理学、计算哲学与机器智能14人工智能原理n 经典人工智能（Classic AI）n 研究如何将规则性知识构成AI引擎，以及如何将这些引擎应用于解决实际问题。例如，知识系统和专家系统。n 逻辑、模糊逻辑（Fuzzy Logic）、以及产生式系统（Production System）成为主要研究对象。n 现代人工智能（Modern AI）n 将一些智能的基本模块整合在一起。如：人工神经网络（Artificial Neural Networks）、遗传算法（Genetic Algorithms）、进化计算（Evolutionary Computing）等。n 用于视觉、语音、声音等智能感知，以及机器学习等。人工智能的研究途径经典与现代15人工智能原理第2章 体系论目录16o 人工智能的研究途径o 人工智能的主体论点o 智能主体的环境o 智能主体的构成o 人工智能的研究体系o 智能主体的思维o 智能主体的交互o 智能主体的类型人工智能原理n 主体（Agent）An agent is anything that can be viewed as perceiving its environment through sensors and acting upon that environment through actuators.（主体可以被视为通过感受器感知其环境并通过执行器对该环境起作用的任何事物。）n 可以是一个人、一个社会组织、一个动物、一台机器人、或一个软件系统。人工智能的主体论点智能主体17人工智能原理n 智能主体（Intelligent Agent）能够感知外部环境、经过一定的思维加工、再作用于外部环境的事物。n 上述定义中的两个要点：n “一定的”含义是指在某种程度上或某些方面n “思维”，指的是功能上类似于而并非机理上等同于人类等高级动物。n 智能主体范式的特点n 解决某个问题时，可以使用任何一种方法，只要该方法是可行、有效的。n 例如：可以是符号逻辑、亚符号神经网络、行为主义方法、等等。人工智能的主体论点智能主体18在人工智能领域，智能主体（Intelligent Agent）这个词用的最多。人工智能原理n 计算主体（Computational Agent）AI is the field that studies the synthesis and analysis of computational agents that act intelligently.（AI是研究计算主体智能行为的综合与分析领域。）This computation can take many forms. In humans this computation is carried out in wetware; in computers it is carried out in hardware.（这种计算可采取多种形式。于人类，这种计算是在湿件中进行的; 于计算机，是在硬件中执行的。）人工智能的主体论点计算主体19 湿件（wetware）是与计算机硬件、软件、固件相对应的术语，主要指的是生物的生命形式（Biological life forms）。湿（wet）指的是生物体中的液体。湿件用于描述人类身体中发现的相当于硬件和软件的部分，尤其是中枢神经系统（Central nervous system, CNS）和人类心智（Human mind）。湿件中的硬件部分是大脑中的神经元，而软件部分则被认为是穿过各种神经元的脉冲序列。人工智能原理n 理性主体（Rational Agent）是经济学、博弈论、决策论、认知科学、伦理学、哲学、以及AI等领域的术语。n 人性（Humanly）vs 理性（Rationally）n 人性：主体具有像人类一样的思维和行为，用相对于人类的逼真度来衡量。n 仿人机器人（Humanoid robot）n 人形机器人（Human-looking robot）n 理性：主体能做出理性的、正确的反应，用理性的性能表现来衡量。n 特征：具有明确的倾向，通过变量的期望值或函数来确定模型的不确定性，并从所有可行的动作中选择执行具有最佳期望结果的动作。n 行为：需要根据其后果来判断。主体在其环境中依据感知得到的状态，通过理性的判断生成一系列动作，这些动作引起状态发生变化。人工智能的主体论点理性主体20人工智能原理第2章 体系论目录21o 人工智能的研究途径o 人工智能的主体论点o 智能主体的环境o 智能主体的构成o 人工智能的研究体系o 智能主体的思维o 智能主体的交互o 智能主体的类型人工智能原理n 完全与部分可观测n 完全可观测（fully observable） ：在每个时间点上都能感知环境的完整状态n 部分可观测（partially observable）：非完全可观测n 单主体与多主体n 单主体（single agent）：单一的主体自主运行n 多主体（multi-agent） ：两个以上的主体且有一定的联系n 确定与随机n 确定（deterministic）：下一个状态完全由当前的状态和动作来决定n 随机（stochastic） ：非确定n 偶发与顺序n 偶发（episodic） ：动作分为若干原子片段，且动作选择仅依赖于片段本身n 顺序（sequential）：动作是有序的智能主体的环境22人工智能原理n 动态与静态n 动态（dynamic）： 环境随主体的行为而改变n 静态（static） ：环境不随主体的行为而改变n 离散与连续n 离散（discrete） ：环境是非连续的n 连续（continuous）：环境是连续的n 已知与未知n 已知（known） ：主体所有动作的结局是既定的n 未知（unknown）：主体需要学习如何动作，以便做出正确的决策。智能主体的环境23人工智能原理智能主体的环境任务环境及其特性24任务任务可观测可观测主体主体确定确定/ /随机随机 阵发阵发/ /序列序列动动/ /静态静态离散离散/ /连续连续的士驾驶部分多随机序列动态连续图像分析完全单确定阵发半动态连续网上购物部分单随机顺序半动态离散人工智能原理第2章 体系论目录25o 人工智能的研究途径o 人工智能的主体论点o 智能主体的环境o 智能主体的构成o 人工智能的研究体系o 智能主体的思维o 智能主体的交互o 智能主体的类型人工智能原理n智能主体的构成主体函数26n 主体函数是一个抽象的概念，可以包含各种方法，例如：n 单个选项的效用计算n 基于逻辑规则的推论n 神经网络n 查找表人工智能原理n 主体算法（Agent algorithm）是实现一个主体函数的过程。它将感受器感知的信息作为输入，加以处理后生成一个执行器所需执行的动作，作用于外部环境。智能主体的构成主体算法27agent TABLE-DRIVEN-AGENTinput perceptoutput an action local percepts, a sequence, initially empty table, a table of actions, initially fully specified action, the most recent action, initially none append percept to the end of percepts action LOOKUP(percepts, table) return action人工智能原理n 主体结构（Agent structure）是智能主体的抽象表示。智能主体的构成主体结构28n 智能主体还可以表现为一个层次结构，它包含许多子主体（Sub-agents），这些子主体去完成主体分配的细粒度的子任务。人工智能原理n 主体由硬件平台（platform）和主体函数（agent function）组成n 硬件平台：计算设备、感受器（sensors）和执行器（actuators）n 主体函数：由一个主体算法来实现智能主体的构成主体结构29主体结构的巴克斯诺尔范式（Backus-Naur Form, BNF）表示人工智能原理第2章 体系论目录30o 人工智能的研究途径o 人工智能的主体论点o 智能主体的环境o 智能主体的构成o 人工智能的研究体系o 智能主体的思维o 智能主体的交互o 智能主体的类型人工智能原理n Artificial Intelligence（人工智能）是1956年在“达特茅斯人工智能夏季研究项目”上正式使用的。n 此前被称为Machine Intelligence（机器智能）。n 机器智能又源于“Can machines think（机器能否思维）”的讨论。n 图灵就是针对机器能否思维的问题，提出通过模仿游戏的方法，来判定机器是否有智能。这就是图灵测试的由来。人工智能的研究体系人工智能的本源31从人工智能的发展脉络上看，机器能否“思维”是人工智能研究的本源。人工智能原理n AI研究的智能主体：能感知外部环境、经过思维加工生成动作、再作用于该环境。n 将主体内部的处理看作思维、与环境的界面看作感知与动作，则如左下图。n 进一步，感知与动作都是主体与环境的交互，故可将其抽象为右下图。人工智能的研究体系人工智能的内涵32n 综上，人工智能的内涵如下：n 思维（Thinking）：主体将感知的信息加以处理的过程。n 交互（Interacting）：主体从环境得到感知并作用于外部环境的过程。人工智能原理n 人工智能从1956年的达特茅斯会议算起，经过六十余年的发展，已经拓展了许多内容，涉猎的范围越来越广泛，还包括：n 机器学习（Machine Learning）n 计算机视觉（Computer Vision）n 计算机语音（Computer Speech）n 自然语言处理（Nature Language Processing）n 信息检索（Information Retrieval）n 机器人学（Robotics）n 等等人工智能的研究体系人工智能的外延33人工智能原理n 从人工智能的内涵可以得出，智能主体是由思维与交互聚合而成。即从交互中获得感知，经过思维处理后形成动作。n 主体的思维进一步特化，可以得出四种代表性方式：n 求解（Solving） ：通常称为问题求解（Problem solving），求解依赖于问题。n 规划（Planning） ：通过制定策略（Policies）来进行规划，规划依赖于策略。n 学习（Learning） ：从数据或环境中学习，故学习依赖于数据。n 推理（Reasoning）： 推理基于知识，即推理依赖于知识。n 主体的交互是由感知与动作聚合而成。对两者进一步特化，可以得出：n 感知（Perceiving）：视觉、听觉，以及其它感知（如触觉、嗅觉等）。n 动作（Acting） ：语音、语言、以及其它动作（如机器人、无人驾驶等）。人工智能的研究体系人工智能的体系34人工智能原理人工智能的研究体系人工智能的体系35人工智能原理第2章 体系论目录36o 人工智能的研究途径o 人工智能的主体论点o 智能主体的环境o 智能主体的构成o 人工智能的研究体系o 智能主体的思维o 智能主体的交互o 智能主体的类型人工智能原理智能主体的思维求解37n 求解方法：包括局部搜索、进化算法、遗传算法、群体智能等。n 搜索问题求解n 搜索问题：可将问题表示为问题空间、并从初始节点通过搜索到达目标节点的问题n 求解方法：包括经典搜索、贪婪搜索、启发式搜索等。n 优化问题求解n 优化问题：从问题可能的解中找出最优解人工智能原理n 博弈问题求解n 博弈问题：两个以上的玩家按照一定的规则进行对抗的问题n 求解方法：包括最大最小定理、Alpha-Beta剪枝、蒙特卡罗方法、遗憾最小化、虚拟遗憾最小化等。智能主体的思维求解38n 约束问题求解n 约束问题：一组对象，其状态必须满足若干约束和限制，因此常常称其为约束满足问题。n 求解方法：包括约束传播、回溯、局部搜索等。人工智能原理n 时空关联规划即与时间、空间相关联的规划n 空间规划n 时序规划n 规划与调度n 运动规划n 决策理论规划（Decision-Theoretic Planning）n 基于马可夫决策过程n 动态规划智能主体的思维规划39人工智能原理n 学习（Learning），即机器学习（Machine Learning），主要是从数据（Data）中学习，此外还有从环境中学习。n 深度学习（Deep Learning）是机器学习的子领域。n 近些年，随着机器学习、特别是深度学习的迅速发展，出现了大量的机器学习算法。n 对其做了进一步梳理和抽象，归纳为三个视角：n 学习的任务（Tasks）n 学习的范式（Paradigms）n 学习的框架（Frameworks）智能主体的思维学习40人工智能原理n 学习的任务n 指的是机器学习的算法要完成的任务。n 主要类型：分类（Classification）、回归（Regression）、聚类（Clustering）、排名（Ranking）、密度估计（Density estimation）、降维（Dimensionality reduction）、以及序贯决策（Sequential decision-making）。n 学习的范式n 基于学习的形态对算法进行划分的一种方法。n 经典的学习范式：监督学习（Supervised Learning）、无监督学习（Unsupervised Learning）、以及强化学习（Reinforcement Learning）。n 学习的框架n 从算法的实现方式入手对机器学习进行的抽象。n 代表性的框架：概率（Probabilistic）、统计（Statistical）、几何（Geometric）、联结（Connected）、逻辑（Logical）、马尔科夫决策过程（MDP）。智能主体的思维41人工智能原理n 推理基于知识（Knowledge），包括确定性和不确定性知识，这涉猎到知识表示（Knowledge Representation）。n 人类具有演绎推理、归纳推理、以及溯因推理等推理能力。智能主体的思维推理42n 人工智能则是通过逻辑推理、定性推理、语义推理、概率推理等方式模拟人类的推理功能。n 近几年，随着机器学习的不断深入，又出现了机器推理等。人工智能原理第2章 体系论目录43o 人工智能的研究途径o 人工智能的主体论点o 智能主体的环境o 智能主体的构成o 人工智能的研究体系o 智能主体的思维o 智能主体的交互o 智能主体的类型人工智能原理n 视觉n 视觉包括：计算机视觉（Computer Vision）、机器视觉（Machine Vision）。n 计算机视觉包括：图像识别与理解（Image Recognition and Understanding）、光学字符识别（Optical Character Recognition, OCR）；手写体识别（Handwriting Recognition, HWR）、人脸识别（Facial Recognition）等。n 听觉n 听觉包括：声音识别（Voice Recognition）、话者识别（Speeker Recognition）或声纹识别（Voiceprint Recognition）。n 其它n 包括：触觉感知（Touch Recognition），即研究触觉与触觉反馈技术（Haptic or Tactile Feedbacks）。智能主体的交互感知44人工智能原理n 语音n 包括：语音合成（Speech Synthesis），在采集某个人声纹的基础上，可以模仿该人的声音。n 语言n 包括：自然语言处理（Nature-Language Processing, NLP）、机器翻译（Machine Translation）等。n 其它n 包括：机器人的肢体动作、无人机、无人驾驶等。智能主体的交互动作45人工智能原理第2章 体系论目录46o 人工智能的研究途径o 人工智能的主体论点o 智能主体的环境o 智能主体的构成o 人工智能的研究体系o 智能主体的思维o 智能主体的交互o 智能主体的类型人工智能原理智能主体的类型主体的层次47人工智能原理n 主体（Agents）智能主体和非智能主体的泛化n 智能主体（Intelligent Agents）生物智能主体和人工智能主体的泛化n 人工智能主体（Artificial Intelligent Agents）单智能主体和多智能主体的泛化n 多智能主体：若干单主体聚合而成n 思维主体（Thinking Agents）求解主体、规划主体、学习主体、推理主体的泛化n 交互（Interacting）包含感知与动作智能主体的类型主体的层次48人工智能原理n 求解型主体：其环境是要求解的问题，感知的是问题的状态，求解后生成相应的动作A。n 代表性的求解问题：搜索问题、优化问题、博弈问题、以及约束问题。智能主体的类型求解型主体49求解方法因问题而异。对于搜索问题求解，可采取启发式（heuristics）搜索。人工智能原理n 人工智能规划：针对问题的初始状态S、预期的目标状态、以及可能的动作，制定从初始状态到达目标状态的动作计划P。n 规划依赖于策略，包括时间、空间、调度策略，以及马尔科夫决策过程。智能主体的类型规划型主体50人工智能原理n 基于数据的学习n 监督学习（Supervised Learning）有已标注训练数据n 无监督学习（Unsupervised Learning）无已标注训练数据智能主体的类型学习型主体51人工智能原理n 基于环境的学习n 强化学习（Reinforcement Learning）n 根据当前的状态S、和环境的回报值R（reward）来决定下一步的动作智能主体的类型学习型主体52人工智能原理n 知识库（Knowledge base）与推理引擎（Inference engine）n 知识基于知识表示（Knowledge representation），包括：语义网络、框架、逻辑、本体、知识图谱、贝叶斯网络等。n 推理引擎基于推理机制（Inference mechanism），包括：逻辑推理、定性推理、语义推理、概率推理、以及机器推理。智能主体的类型推理型主体53人工智能原理n 体系论，是关于人工智能的观点和主张。n 本章介绍了人工智能的各种研究途径和主体论点。n 讨论了智能主体环境的多样性以及智能主体内部的构成。n 在论述人工智能的本源、内涵和外延的基础上，从人工智能主要研究“思维”与“交互”入手，提出了一个人工智能的研究体系。n 在该人工智能的研究体系中，本章梳理出四种智能主体的类型。n 在其中的学习部分中，提出了机器学习研读的三个视角。第2章 体系论小结54Q & A55