第8章人机混合伦理问题课件.pptx

人工智能伦理导论简明课件莫宏伟 教授手机+微信： 版权所有，禁止与一切教学无关用途。 黑龙江省多学科协同认知人工智能技术与应用重点实验室 主任哈尔滨工程大学智能科学与工程学院第8章人机混合伦理问题第八章 人机混合伦理第8章人机混合伦理问题学习和理解人机混合伦理概念及含义。学习和理解人机混合智能引发的伦理问题。学习和理解道德增强伦理问题。学习要点学习要点第8章人机混合伦理问题 人机混合智能是一种人类智能与机器智能的结合而产生的智能。 人机混合智能伦理涉及脑与神经科学技术、脑机接口技术、可穿戴技术、外骨骼技术等的应用引发的伦理问题，其中目前影响较大，技术比较完善的是脑机接口技术。 本章学习的人机混合伦理问题主要是由脑机接口技术引发的。 道德增强伦理是直接通过人工智能技术辅助或提升人类的道德水平或养成习惯。学习导言第8章人机混合伦理问题人机混合智能是利用脑机接口、可穿戴、外骨骼等技术与人脑、身体的结合或融合，实现的一种新型智能形态。这些技术使人类机体和机器相结合，人类成为半人半机器的生命，称为Cyborg。由于人机混合技术的发展，人的定义可能需要重新改写。8.18.1人机混合智能人机混合智能8.1.1 人机混合智能概念 智能假肢帮助残疾人第8章人机混合伦理问题脑机接口(Brain-Computer Interface，BCI)则是指在生物(人或动物)大脑与外部设备或环境之间建立起一种新型的实时通讯与控制的系统，从而实现脑与外部设备的直接交互。脑机接口通过双向信息传输通道连接大脑和机器的，机器端通过记录和解码大脑信号来感知生物端的意图和状态，生物端通过接受机器端的编码刺激来获得命令和反馈。8.18.1人机混合智能人机混合智能8.1.2 脑机接口技术脑机接口控制假肢第8章人机混合伦理问题 现代科技正在利用机械、电子等各种技术改造人类的体，其初衷是为了帮助某些理缺陷的，重获相关的能力，“修复”体机能。 另一个标则是希望“增强”正常体的能力。 如图中，穿戴了外骨骼的士兵可以轻易举起正常情况下平常状态下举不动的炮弹等武器弹药。8.2 8.2 人机混合增强人机混合增强8.2.1人机混合体能增强穿戴外骨骼的士兵第8章人机混合伦理问题通过非自然的方式对健康人的身体和心理功能进行干预改善，使作为个体的人获得超乎正常功能的智力或行为能力，这种非医疗目的的神经科学技术，起到的效果就是“认知增强”。这种干预并不是修正有缺陷的认知因素，而是针对某种特定的大脑功能而增强其认知程度。比如，利用神经药理学和高技术手段开发增强记忆力的药物，改善人的精神状态等。8.8.2 2人机混合增强人机混合增强8.2.2思维预测与认知增强第8章人机混合伦理问题人机混合伦理是指由于脑与神经科学、脑机接口等技术的发展，使得人类体能、感知、记忆、认知等能力甚至精神道德在神经层面得到增强或提升，由此引发的各种伦理问题。更深层次的人机混合伦理问题包括由于人机混合技术造成人的生物属性、人的生物体存在方式，以及人与人之间、人与机器之间、人与社会之间等等复杂关系的改变而产生的新型伦理问题。人机混合智能技术以内嵌于人的身体或人类社会的方式重构了人与人、人与机器、人与社会等各方面之间的道德关系。8.8.2 2人机混合增强人机混合增强8.2.3人机混合伦理概念与含义第8章人机混合伦理问题当前的神经科学研究成果带来的意志自由的危机还很有限，并不能说神经科学已经完全消解了意志自由的概念，这仅仅是给人们提出了一个神经科学伦理上的问题。脑成像的精确性可以确定神经系统与人们的行为状态相关，但是也不能直接简单回答什么程度下人们能对他们行为负责的问题。意志自由与道德责任不能完全是经验层面的科学问题，道德责任问题也不能只是神经科学结论的体现。8.38.3人机混合伦理智能伦理问题人机混合伦理智能伦理问题 8.3.1自由意志第8章人机混合伦理问题世界上已经出现了利用神经信息，参考与特定注意力状态相关的神经元的活动模式信息，用于投放广告、计算保险费或匹配潜在伴侣的算法。个人的思想意识隐私在神经成像技术不断发展的环境下更显脆弱，脑成像技术和脑机接口技术的应用必然会带来个人隐私与公共利益之间的冲突，寻求个人权利与公共需求之间可能的平衡点将是人机混合智能面临的伦理难题。8.38.3人机混合伦理智能伦理问题人机混合伦理智能伦理问题 8.3.2思维隐私第8章人机混合伦理问题通过脑机接口等人机混合技术，人的大脑或身体被植入或安装了设备，使得原本自然的人类或动物不再“自然”，人的心智状态、思维活动等可被解码、修正，其感知、执行能力等可被修复或增强。譬如，能够握住并拿起杯子的瘫痪病人、可以控制机械手臂的恒河猴以及各种类型的动物机器人，因安置了脑机接口设备，不再是原来的自然存在。因此，人们日常所理解的人、机、物等基本概念的边界在脑机融合系统中就变得愈发模糊，甚至是导致身份认同混乱。8.38.3人机混合伦理智能伦理问题人机混合伦理智能伦理问题 身份认同混乱第8章人机混合伦理问题人机混合技术集成到大脑和人体，人类不再是以自然肉身为载体和基础的有机存在，而是与机器等无机物的联合而成的混合存在。这将从根本上改写人类的定义。可以预见的是，在不久的将来，集人类智能、机器智能于一体的人机混合智能在物理性器官和精神性心智等方面都将全面超越自然人类，成为一种“新主体”。 人类将在这种深度技术化自身的进程中逐步迈入“新人类时代”或者“后人类时代”。传统意义上的人类主体性地位遭受前所未有的挑战。8.38.3人机混合伦理智能伦理问题人机混合伦理智能伦理问题 8.3.4人机物界限模糊化第8章人机混合伦理问题在使用过程中，因脑机接口设备、使用方式等问题，导致对传输信号的“误读”或“错读”，将会对脑机系统使用者和利益相关者造成极大的损失和伤害。8.38.3人机混合伦理智能伦理问题人机混合伦理智能伦理问题 8.3.5安全性第8章人机混合伦理问题当人机混合技术被技术、资本、政治等因素控制之时，它只能被少数人、少数阶层所独占和使用，就会产生新的社会不平等问题，扩大心智能力、财富占有、社会资源、政治地位等方面的差距。比如，富人们可能会让他们的孩子植入脑机接口，使他们在心理和身体上具有优势。而没有能力植入的孩子长大后可能会落后，从而破坏社会公平。8.38.3人机混合伦理智能伦理问题人机混合伦理智能伦理问题 社会公平第8章人机混合伦理问题 随着人机混合智能技术、生物技术、神经科学及药物学的发展，人们开始采用更为先进的技术提高道德水平。 目前主要有两种道德增强方法： 一是通过技术手段弱化某些“不良”情感，形成良好的行为动机，达到道德増强的目的。 二是通过人机混合智能等技术手段加强某些核心道德情感，如利他、公平正义，以达到道德增强的目的。8.4 8.4 道德增强伦理道德增强伦理 8.4.1道德增强伦理的研究第8章人机混合伦理问题由于人们的生活将越来越多地与数据处理技术相结合，比如，一种称为环境智能的系统，能够利用多个不同类型传感器收集信息，并在一定环境与用户交互中处理这些信息。科学家们在发展一种称为“道德环境人工智能(moral artificial intelligence，MAI)”的技术。帮助人们克服自然心理局限，通过可穿戴等技术监测影响道德决策的物理和环境因素，并根据用户的道德价值，为用户提供正确的行动路线的一种系统。8.4 8.4 道德增强伦理道德增强伦理8.4.2道德环境人工智能第8章人机混合伦理问题 近年来，欧美哲学家、伦理学家对道德增强进行了激烈的争论，并提出主要的三种道德增强伦理问题。 道德增强的安全性问题 道德增强的强制性问题 道德增强的社会道德背景8.4 8.4 道德增强伦理道德增强伦理8.4.3道德增强伦理问题第8章人机混合伦理问题 专家提出针对神经技术和机器智能的伦理问题四个建议： 隐私权 知情同意权 能动性 身份、体智增强以及偏见人工智能和脑-机接口必须尊重和保护人的隐私、身份认同、能动性和平等性。 正在开发类似设备的公司必须对其产品负责，应以一定的标准、最佳实践和道德规范为指导。 各种利益相关方要想获得人机混合带来的效益，首先必须尊重、保护和支持人性中最珍贵的品质，以此指导人机混合智能技术的发展。8.58.5人机混合伦理问题的预防措施人机混合伦理问题的预防措施第8章人机混合伦理问题 脑机接口等技术既能在体能，也能在智能方面提升人类，甚至能直接监督人类的道德行为。 该技术可能引发的人类本体重塑与道德价值体系的重塑，以及那些已经在现实中出现、亟待解决的、前所未有的伦理问题，都需要人们保持审慎、清醒的态度面对其可能带来的冲击甚至威胁。8.68.6本章小结本章小结第8章人机混合伦理问题