第2章数据伦理课件.pptx

人工智能伦理导论简明课件莫宏伟 教授手机+微信： 版权所有，禁止与一切教学无关用途。 黑龙江省多学科协同认知人工智能技术与应用重点实验室 主任哈尔滨工程大学智能科学与工程学院第2章数据伦理第二章 数据伦理第2章数据伦理 了解数据化含义及其对个人和社会的解析问题。 理解大数据应用产生的主要伦理问题。 了解人本主义数据伦理含义。 本章学习要点本章学习要点第2章数据伦理 人工智能系统需要通过计算机技术来实现，计算机技术的实现方式主要是各种解决问题算法及依托算法编制的程序。 数据和算法都需要科学家、工程师、程序员等各种专业人员来处理和设计，其中隐含着人类本身的利益取向或价值观。 数据是人工智能技术处理的主要对象，算法是实现人工智能系统的主要手段。 本章主要学习数据伦理的含义及其被采集、存储、使用时出现的伦理问题。人们在期望数据化引领人类社会向更美好的阶段进发的同时，也要注意控制其中的负面因素。学习导言第2章数据伦理一般而言，数据是描述事物的符号记录，是计算机处理的原始材料，图形、声音、文字、数值、字符和符号等都可以作为计算机处理的材料或对象。数据代表着对某一件事物的描述，通过记录、分析、重组数据，实现对人们的工作业务指导。计算机通过算法帮助人们分析、处理不同类型的数据，使得计算机显示出一定的智能性。2.1 2.1 数据、信息与大数据数据、信息与大数据数据的定义第2章数据伦理大数据概念在上世纪90年代被提出，大数据被定义为“代表着人类认知过程的进步，数据集的规模是无法在可容忍的时间内用目前的技术、方法和理论去获取、管理、处理的数据”。大数据在医疗、制造、娱乐、媒体、物联网、车联网等领域具有重要应用，也正是在大数据技术的支持下，许多传统行业有了新的突破，新兴行业更是将作为一种战略性资源看待。大数据已经成为跟电力、石油一样重要的资源。大数据不仅对科技进步和社会发展具有重要意义，而且也支撑着人工智能的发展，是目前人工智能基础性技术之一。2.1 2.1 数据、信息与大数据数据、信息与大数据大数据的定义与特征第2章数据伦理一般认为，大数据具备如下四个特征：数据规模大数据种类多处理速度快数据价值密度低2.1 2.1 数据、信息与大数据数据、信息与大数据大数据的定义与特征第2章数据伦理数据伦理主要是指数据尤其是大数据在社会生产、生活中日益广泛使用引发的伦理问题。数据伦理有其本身内在的问题和机制，并不完全从属于人工智能伦理。只有当数据或大数据成为人工智能技术的处理对象，二者结合之后形成的人工智能系统所产生的伦理问题才成为人工智能领域的伦理问题。由于数据存储、数据传输、数据计算或者传统的数据分析、数据处理及数据应用带来的伦理问题，并不涉及人工智能技术或算法，都属于数据领域本身的伦理问题。2.1 2.1 数据、信息与大数据数据、信息与大数据数据伦理定义第2章数据伦理隐私是指私人生活安宁不受他人非法干扰，私人信息秘密不受他人非法搜集、刺探和公开等。随着互联网等企业不断通过各种手段收集个人数据以及各类数据采集设施的广泛使用，意味着企业或系统可以掌握大量的个人信息。现代社会中，对个人的数据收集，不仅涉及人们主动在电商或新媒体平台生产或提供的数据，也涉及很多人们被动提供的数据。2.2 2.2 大数据技术面临的主要伦理问题大数据技术面临的主要伦理问题个人数据收集侵犯隐私权第2章数据伦理2.2 2.2 大数据技术面临的主要伦理问题大数据技术面临的主要伦理问题 可穿戴设备采集个人数据随着数据采集工具向各类传感器、可穿戴设备拓展，它们对于人的数据的采集进入深层，人的现实行为数据、生理数据等成为收集对象。个人数据收集侵犯隐私权第2章数据伦理大数据信息价值开发要实现相对较为准确的预测，需要依赖大规模的原始数据，这就意味着需要从尽可能多的事物中抓取信息，甚至是从一些极其平常的事物或状态中获取信息，通过量化方法开发出更多的有创新性价值的产品或建议。但是，在数据信息价值开发和应用的过程中，很多情形可能造成侵犯个人隐私权的问题。2.2 2.2 大数据技术面临的主要伦理问题大数据技术面临的主要伦理问题信息价值开发侵犯隐私权第2章数据伦理不同的商家选择对应的“人群包”进行商品推荐或广告投放，实现所谓“千人千面”。“千人千面”的出现，缩短了用户的购物链路，实现了卖家精准营销提高客单转化的目的。电商还可以据此可以进行差异化定价。利用大数据技术，商家通过用户画像了解用户是否对价格敏感以及用户可能接受的最高价格，并且商家还利用了用户的忠诚度以强制溢价的方式进行了价格歧视，导致用户在不知情的情况下，支付了比普通用户更高的价格。2.2 2.2 大数据技术面临的主要伦理问题大数据技术面临的主要伦理问题价格歧视与“大数据杀熟”第2章数据伦理1.知情同意知情同意指用户对自己的数据信息和数据采集方对数据的使用和可能的后果明了和认可。知情同意原则要求数据采集者在开始收集数据之前，首先需要向个人申明，他们将收集哪些数据、收集的数据有什么用途，在征得个人的同意之后，方可以展开数据釆集工作。数据的收集和使用需征得用户的知情同意，并实行最少原则或必要原则，用户应当有权知晓个人数据的收集范围和用途。2.3 2.3 数据伦理问题的应对数据伦理问题的应对第2章数据伦理2.数据能力在大数据时代，数据成为一种新资源，从数据中挖据出所需要的有用信息的能力成了一种新能力。大数据的海量性淹没了数据的价值，个人或企业要具备从海量数据中挖掘其潜在价值的能力。个人必须培养一种从数据中发现有用信息的能力，可将其称为数据能力。在大数据时代，如果不培养和提高个人的数据能力，就会像不识字的文盲，成为“数盲”。2.3 2.3 数据伦理问题的应对数据伦理问题的应对第2章数据伦理3.数据权力保护数据权利包括大数据广泛应用所产生的隐私权、知情同意权、删除权、被遗忘权、数据携带权等，也可以看做是人的基本权利的数据化。在理解了人工智能算法正在用人们的行为数据定义人们这一事实的情况下，每个人都应该更加主动地参与到此过程中，使主体的能动性影响到数据分析或数据画像的过程与结果，通过必要的反馈与修正机制的构建取得对自身数据权利的主导权。2.3 2.3 数据伦理问题的应对数据伦理问题的应对第2章数据伦理4.消极伦理观与积极伦理观消极伦理观与积极伦理观消极伦理观从批判、规制的立场看事物，认为大数据及其透明世界将给人类带来诸多的伦理危机，必须限制大数据的随意使用，让其符合传统伦理规范。消极伦理观的意义在于提醒人们对待大数据、人工智能等带来的问题要保持警惕，做好防范。前面讨论的数据伦理基本都属于从传统伦理立场出发的消极伦理观。积极伦理观就是侧重于事物积极的方面，以研究事物的积极作用、关注人类的健康幸福与和谐发展。积极伦理观在考虑大数据可能带来的伦理问题时，更看到它可能给人类带来新的机遇。2.3 2.3 数据伦理问题的应对数据伦理问题的应对第2章数据伦理1.大数据可能带来人性的真诚回归大数据技术通过智能感知能够将人类思想、情感、意志等变成连续的海量数据，通过数据的挖掘、分析和辨识，人们可以把隐藏在内心深处的思想、情感和意志变成容易识别与认知的数据。在大数据面前，人们不仅无法继续伪装自己，而且可以回归真诚，更加轻松地生活。2.4 2.4 面对大数据的积极伦理观面对大数据的积极伦理观第2章数据伦理2.大数据可能给人们增加新的安全感大数据时代的各种事物都能够数据化，一切犯罪行为都会暴露在公众面前，因此犯罪者无处躲藏。积极伦理观认为大数据就像天罗地网，它让企图犯罪者不再有犯罪的机会，让人们获得更多的安全感。2.4 2.4 面对大数据的积极伦理观面对大数据的积极伦理观第2章数据伦理3.大数据可能给人们增加平等权平等是人类社会的终极追求目标之一。大数据让整个世界透明化，于是人们的一切行为和信息都被彻底记录甚至公开，任何不平等现象都可能被全社会的人发现，任何不平等行为或贪腐行为都可能被人们从大数据中挖掘出来，甚至成为舆论风暴。因此，任何人都很难不平等地占有其他成员的财富或其他社会资源。特权、不平等被置于大数据技术监督之中，人与人之间会逐渐走向平等。2.4 2.4 面对大数据的积极伦理观面对大数据的积极伦理观第2章数据伦理4.大数据可能给人们带来新的自由权人工智能系统更可能保护每个人的权益彼此不侵犯，这正是自由的体现。在大数据的监督下，每个人都会更加检点自己的行为，并在不侵犯他人的前提下最大限度地发挥每个人的自由。积极伦理观认为大数据时代约束条件下的自由更加符合自由的本意，每个人都在大数据的监视下获得一种新型自由，而且这种自由才是彼此互不伤害的真正自由。2.4 2.4 面对大数据的积极伦理观面对大数据的积极伦理观第2章数据伦理5.大数据可能更加凸显个人的存在感大数据时代，每个人时刻都在自动生产数据，人们的语音、图像、视频、上网轨迹、位置信息、社交信息等都被永久地保留成为镌刻的历史。大数据让每个人都可以拥有自己的历史记录，凸显出每个人的存在，从技术上实现了马克思主义群众观的崇高理想。2.4 2.4 面对大数据的积极伦理观面对大数据的积极伦理观第2章数据伦理1.数字化与数据化“数据化”是指一种把现象转变为可制表分析的量化形式的过程。而数字化是指将许多复杂的、难以估计的信息或模拟数据通过一定的方式变成计算机能处理的0和1的二进制码，形成计算机可以处理的数据。数据化最直观的就是各式各样的报表和报告。数据化将以前不可见的过程或活动转换成计算机化的数据，使之可以被操控、跟踪、分析和处理，从而为新价值的产生奠定基础。2.5 2.5 人本主义数据伦理人本主义数据伦理个人数据收集侵犯隐私权第2章数据伦理2.数据化对社会的影响人类的社会行为和社会活动的数据化，即将人类的社会行为和社会活动转换成在线量化的数据，从而能够对它进行实时跟踪和预测分析，并通过数据挖掘和处理，创造新的价值，进而形成一种大数据驱动的社会智能-“社会数据智能”。数据化突破自然世界的边界，深入人类社会领域，一切人类行为和社会活动都可以数据化，人类的生存空间、自然空间和数据空间相融合，构成了可计算的“数据世界”。当前流行的“元宇宙”正是数据世界的一个特殊形式。现实社会发展状态通过数据化映射、存储到数据世界中，并被各种数据技术所分析。2.5 2.5 人本主义数据伦理人本主义数据伦理个人数据收集侵犯隐私权第2章数据伦理3. 数据化对个人的影响 社会数据智能将个体投射为一种“数据画像”、“数字身体”、“虚拟身体”或“数据孪生体”，将使得各种数据集与“数据身体”成为人的“第二身体”，既是在生命意义上的，也是在社会意义上的。 社会数据智能通过不特定目标收集、存储和处理不确定数量群体的信息，不再直接针对个体进行因果推断，而是在群组、集合与类型意义上统计其相关性，也就是一种对个体的解析。 不管是主动还是被动，每个人都是数据的贡献者，每个人也都是被解析对象，解析社会实际上也是解析个人。2.5 2.5 人本主义数据伦理人本主义数据伦理个人数据收集侵犯隐私权第2章数据伦理3. 数据化对个人的影响2.5 2.5 人本主义数据伦理人本主义数据伦理个人数据化的一种形式个人数据收集侵犯隐私权第2章数据伦理3. 数据化对个人的影响个人的数据化意味着个人的“数据身体”既是透明的又必然是共享的，数据化对个人的解析，实际上是人类所产生的各种数据被当作事件与过程加以分析和调控。实行这些解析和评价的数据模型和智能算法一旦出现偏差，不仅很难加以纠正，而且可能被视为一种合理的结论，使偏差持续强化而造成恶性循环，甚至会通过数据的跨领域运用导致附加伤害。2.5 2.5 人本主义数据伦理人本主义数据伦理个人数据收集侵犯隐私权第2章数据伦理数据主义的伦理观对于社会和个人都存在很大的隐患。数据主义主张“信息自由是至善”，主张应赋予信息以自由，要把一切连接到系统，认为只有保证信息流通自由和数据流最大化，才能创造更美好的世界。数据主义的这种主张意味着信息自由凌驾于人的权利之上，意味着信息自由高于人的自由。2.5 2.5 人本主义数据伦理人本主义数据伦理数据主义的弊端第2章数据伦理 人本主义数据伦理观主张“以人为本”，提倡以人的权利为本，反对以数据权力为本。 人本主义数据伦理观主张尊重人的自由，提倡“以人的自由”为中心，反对“以数据的自由”为中心。 人本主义数据伦理强调尊重用户的数据权和隐私权。 人本主义数据伦理有助于消除数据主义对数据自由和电子算法的崇拜，建构人与技术、人与数据的自由关系，维护人类，增进人类福祉。2.5 2.5 人本主义数据伦理人本主义数据伦理人本主义数据伦理观第2章数据伦理数据与大数据涉及的伦理问题数据和大数据产生的伦理问题原因、大数据伦理问题的对策和措施。从消极主义伦理和积极主义伦理两方面来看待数据及大数据伦理问题。发展人工智能技术不应以牺牲个人数据隐私利益为代价。只有为用户提供充分的个人数据隐私保护、健全保障数据安全的措施，才能建立并增强公众对大数据和人工智能技术的信任。在伦理层面，保护个人数据隐私是对个人人格和尊严的尊重。2.6 2.6 本章小结本章小结第2章数据伦理