1、第一章 绪论人工智能伦理概念人工智能伦理发展历史与现状人工智能伦理体系 主要内容主要内容人工智能伦理概念人工智能伦理发展历史与现状人工智能伦理学人工智能伦理体系 主要内容主要内容一般来说，伦理学伦理学是以道德作为研究对象的科学，也是研究人际关系的一般规范或准则的学科，又称道德学、道德哲学。伦理学伦理学是对人类道德生活进行系统思考和研究的学科。它试图从理论层面建构一种指导行为的法则体系，即“我们应该怎样处理此类处境”，“我们为什么又依据什么这样处理”。并且对其进行严格的评判。（维基百科）从总体上说，传统的西方伦理学可以划分为三大理论系统，即理性主义、经验主义和宗教伦理学，不同的理论系统遵循不同的
2、道德原则。人工智能伦理概念-伦理与伦理学应用伦理学应用伦理学是伦理学的一个分支，它的研究范围包括一切具体的、有争议的道德应用问题。并非所有具体的、有争议的现实问题都是应用伦理学研究对象，只有那些具体的、表现于特定领域或情境的道德问题才可能是应用伦理学的研究对象。例如，猎杀野生动物是不是正当行为，是应用伦理学问题。引起广泛主义的，且在公众中有深刻歧见的现实道德问题也是应用伦理学的研究对象。人工智能伦理概念-应用伦理学与科技伦理 科技伦理科技伦理科技伦理科技伦理是指关于各种科学技术发展所引发的伦理问题，包括基因编辑、克隆、纳米、互联网以及人工智能等各种科学技术发展和应用所引发的伦理问题。早在19世
3、纪，德国哲学家马克思就针对科学技术发展所带来的伦理问题进行过深刻的论述。他指出：“在我们这个时代，每一种事物好像都包含有它自己的反面。我们看到机器具有减少人类劳动和使劳动更有成效的神奇力量，然而却引起了饥饿和过度的疲劳。技术的胜利，似乎是以道德的败坏为代价换来的。”人工智能伦理概念-应用伦理学与科技伦理人工智能伦理是指人工智能技术发展和应用引发的伦理问题，关涉人与人工智能系统、智能机器的伦理关系。人工智能技术与其他科学技术的最大区别在于智能性。因此，人工智能伦理与其他科技伦理相比较而言的特殊之处也在于此。人工智能技术的诞生和发展，使得工具的属性发生了变化，它们开始成为具有智能性的工具。当这种智
4、能性与人类智能某方面相似甚至超越人类时，人类与智能工具之间的关系就开始变得复杂起来，这种复杂关系通过反映在伦理观念上，就对人类社会的传统伦理关系造成了影响和冲击。人工智能伦理概念-人工智能伦理人工智能伦理分为狭义和广义两个范畴。狭义的人工智能伦理是人工智能系统、智能机器及其使用所引发的、涉及人类的伦理道德问题。应用人工智能技术的各个领域都涉及伦理问题，也都是狭义人工智能伦理应该考虑的问题。广义人工智能伦理是指人与人工智能系统、人与智能机器、人与智能社会之间的伦理关系，以及超现实的强人工智能伦理问题，包括人工智能系统与智能机器对于人类的责任、安全等范畴。人工智能伦理概念-人工智能伦理广义的人工智
5、能伦理，主要有三方面含义：第一，人工智能技术应用背景下，由于人工智能系统在社会中由于参与、影响很多方面的工作和决策活动，人与人、人与社会、人与自身的传统伦理道德关系受到影响，从而衍生出新的伦理道德关系。第二，深度学习技术驱动的智能机器拥有了不同于人类的独特智能，从而促使人类要以前所未有的视角考虑人与这些智能机器或者这些智能机器与人之间的伦理问题。第三，超越现实的人工智能幻想引发的哲学意义上的伦理问题思考，具有一定理论和思想价值，能够启发今天的人类如何开发和利用好人工智能技术。这类广义人工智伦理称为“超现实人工智能伦理”。超现实人工智能伦理关注的是类人或超人的人工智能系统、智能机器与人的伦理关系
6、。人工智能伦理概念-人工智能伦理通俗地说，人工智能伦理学是关于智能机器、人类以及社会人工智能伦理学是关于智能机器、人类以及社会之间如何互动的理论之间如何互动的理论智能机器帮助人类做或不做某事的理由，人类同意或不同意智能机器做某事的理由，智能机器对自己的某个行动、规则、做法、制度、政策和目标进行好坏判别的理由，以及人类认定智能机器做出何种判别的标准。人工智能伦理概念-人工智能伦理学人工智能伦理学的核心任务：人工智能伦理学的核心任务：寻找和确定与智能机器行为有关的行动、动机、态度、判断、规则和目标的理由。人工智能伦理学需要从理论层面建构一种人类历史上前所未人工智能伦理学需要从理论层面建构一种人类历
7、史上前所未有的新型伦理体系，也就是人、智能机器、社会及自然之间有的新型伦理体系，也就是人、智能机器、社会及自然之间相互交织的伦理关系体系，相互交织的伦理关系体系，包括指导智能机器行为的法则体系，即“智能机器应该怎样处理此类处境”，“智能机器为什么又依据什么这样处理”，并且对其进行严格评判的法则，也包括人类对于智能机器的行为，智能机器对人类的行为，智能机器与人类社会、智能机器与自然的伦理体系。人工智能伦理概念-人工智能伦理学人工智能伦理学的研究对象人工智能伦理学的研究对象研究人工智能技术的伦理本质研究人与智能机器的道德关系研究人工智能发展与人类道德进步的互动及其机制研究人工智能道德现象 人工智能
8、伦理概念-人工智能伦理学伦理学与人工智能伦理学的关系 人工智能伦理概念-人工智能伦理学十九世纪英国著名小说家玛丽雪莱于 1818 年创作出世界上第一部科幻小说弗兰肯斯坦（科学怪人），其中描绘的“人造人”天性善良外表丑陋，最终在人类的歧视下成为杀人的怪物。小说中人类对待“人造人”的态度隐含着后世关于人与人工创造物的伦理关系。人类面对自己的创造物表现出的人性善良与丑恶。悲剧的结果深深震撼人类的心灵，引发后世许许多多的争议和思考，其中就包括人类对人工智能的态度。人工智能伦理发展历史与现状1920年捷克作家卡佩克发表了科幻剧本罗萨姆的万能机器人。剧本中一位名叫罗素姆的哲学家研制出一种机器人，这些大批制
9、造的机器人外貌与人类相差无几，并可以自行思考，被资本家大批制造来充当劳动力。这些机器人按照主人的命令默默地工作，从事繁重的劳动。后来，机器人发现人类十分自私和不公正，于是，机器人开始造反并消灭了人类。著名科幻作家阿西莫夫早在机器人伤害人类的真实事件发生之前就与科幻作家兼编辑坎贝尔一同创立“机器人学三定律”，这三条定律于1940年首次被提出并在我，机器人这部科幻小说中得到应用和检验。因此，事实上，人工智能所引发的伦理思考，最早并不是来自现实的技术进步，而是科幻小说。人类在人工智能技术出现之前就已经开始思考人工智能伦理问题。人工智能伦理发展历史与现状英国谢菲尔德大学教授、人工智能专家诺埃尔夏基20
10、07年在美国科学杂志上发表机器人的道德前沿一文，呼吁各国政府应该尽快联手出台机器人道德规范。美国哲学家科林艾伦等人2008年出版了道德机器：培养机器人的是非观。（Moral Machines:Teaching Robots Right From Wrong，Oxford University Press,USA(November 19,2008)世界工程与物理科学研究理事会（EPSRC）2011年在线发布的“EPSRC机器人原理”明确地修订了阿西莫夫的“机器人三定律”。机器人伦理学的研究从2005 年以后延伸到人工智能伦理，并逐渐开始受到全球各界专家、学者以及政府和企业的的关注。人工智能伦理发
11、展历史与现状2014 年 6 月 7 日，在英国皇家学会举行的“2014 图灵测试”大会上，聊天程序“尤金古斯特曼”（Eugene Goostman）成功通过了“图灵测试”。人工智能的道德行为主体、自由意志、社会角色定位等问题科幻小说中的热门话题再次激起人们的思考。2016年，美国政府出台的战略文件提出要理解并解决人工智能的伦理、法律和社会影响。英国政府曾在其发布的多份人工智能报告中提出应对人工智能的法律、伦理和社会影响，英国议会于2018年4月发出的长达180页的报告英国人工智能发展的计划、能力与志向。人工智能伦理发展历史与现状日本人工智能协会于2017年3月发布了一套9项伦理指导方针。联合
12、国于2017年9月发布机器人伦理报告，建议制定国家和国际层面的伦理准则。国际电气和电子工程师协会于2016年启动“关于自主/智能系统伦理的全球倡议”，并开始组织人工智能设计的伦理准则。在未来生命研究所主持下，2017年1月在阿西洛马召开的“有益的人工智能”（Beneficial AI）会议提出的“阿西洛马人工智能原则”（Asilomar AI Principles），近4000名各界专家签署支持23条人工智能基本原则。人工智能伦理发展历史与现状我国也在2017年发布的新一代人工智能发展规划，提出了制定促进人工智能发展的法律法规和伦理规范作为重要的保证措施。2018年1月18日，国家人工智能标准
13、化总体组、专家咨询组成立大会发布了人工智能标准化白皮书（2018）。白皮书论述了人工智能的安全、伦理和隐私问题，认为设定人工智能技术的伦理要求，要依托于社会和公众对人工智能伦理的深入思考和广泛共识，并遵循一些共识原则。2021年9月25日，国家新一代人工智能治理专业委员会发布了新一代人工智能伦理规范(以下简称伦理规范)，旨在将伦理道德融入人工智能全生命周期，为从事人工智能相关活动的自然人、法人和其他相关机构等提供伦理指引。一些国家相继成立了人工智能伦理研究的各类组织和机构探讨人工智能引发的伦理问题，如科学家组织、学术团体和协会、高校研发机构，还有国家层面的专业性监管组织。比如，我国科技部于20
14、19年2月成立“新一代人工智能治理专业委员会”。人工智能伦理发展历史与现状斯坦福大学的“人工智能百年研究项目”计划“针对人工智能在自动化、国家安全、心理学、道德、法律、隐私、民主以及其他问题上所能产生的影响，定期开展一系列的研究。”该项目的第一份研究报告人工智能 2030生活愿景已经于 2016 年 9 月发表。卡内基梅隆等多所大学的研究人员联合发布美国机器人路线图，以应对人工智能对伦理和安全带来的挑战。来自牛津大学、剑桥大学等大学和机构的人工智能专家撰写恶意使用人工智能风险防范：预测、预防和消减措施，调查了人工智能恶意使用的潜在安全威胁，并提出了更好的预测、预防和减轻这些威胁的方法。经过近十
15、年的发展，人工智能伦理已经成为人工智能领域新兴、重要的组成部分和发展内容。当代人工智能技术的快速、大规模普及应用，超越了历史上任何一个时代，由此衍生出的伦理问题已经不再是科幻小说中的天马行空的抽象思考，而是人工智能技术的滥用引发了一系列实际的、迫切的、前所未有的伦理问题。人工智能伦理发展历史与现状我国也在我国也在20172017年发布的新一代人工智能发展规划年发布的新一代人工智能发展规划，提出了制定促进人工智能发展的法律法规和伦理规范作为重要的保证措施。20182018年年1 1月月1818日，国家人工智能标准化总体组、专家咨询组日，国家人工智能标准化总体组、专家咨询组成立大会发布了人工智能标
16、准化白皮书（成立大会发布了人工智能标准化白皮书（20182018）。白皮书论述了人工智能的安全、伦理和隐私问题，认为设定人工智能技术的伦理要求，要依托于社会和公众对人工智能伦理的深入思考和广泛共识，并遵循一些共识原则。20212021年年9 9月月2525日，国家新一代人工智能治理专业委员会发布日，国家新一代人工智能治理专业委员会发布了新一代人工智能伦理规范。了新一代人工智能伦理规范。旨在将伦理道德融入人工智能全生命周期，为从事人工智能相关活动的自然人、法人和其他相关机构等提供伦理指引。人工智能伦理发展历史与现状一些国家相继成立了人工智能伦理研究的各类组织和机构探讨人工智能引发的伦理问题，如科
17、学家组织、学术团体和协会、高校研发机构，还有国家层面的专业性监管组织。比如，我国科技部于我国科技部于20192019年年2 2月成立月成立“新一代人工智能治理专业委新一代人工智能治理专业委员会员会”。斯坦福大学的“人工智能百年研究项目”计划“针对人工智能在自动化、国家安全、心理学、道德、法律、隐私、民主以及其他问题上所能产生的影响，定期开展一系列的研究。”该项目的第一份研究报告人工智能 2030生活愿景已经于 2016 年 9 月发表。人工智能伦理发展历史与现状卡内基梅隆等多所大学的研究人员联合发布美国机器人路线图，以应对人工智能对伦理和安全带来的挑战。来自牛津大学、剑桥大学等大学和机构的人工
18、智能专家撰写恶意使用人工智能风险防范：预测、预防和消减措施，调查了人工智能恶意使用的潜在安全威胁，并提出了更好的预测、预防和减轻这些威胁的方法。经过近十年的发展，人工智能伦理已经成为人工智能领域新兴、重要的组成部分和发展内容。当代人工智能技术的快速、大规模普及应用，超越了历史上任何一个时代，由此衍生出的伦理问题已经不再是科幻小说中的天马行空的抽象思考，而是人工智能技术的滥用引发了一系列实际的、迫切的、前所未有的伦理问题。人工智能伦理发展历史与现状卡内基梅隆等多所大学的研究人员联合发布美国机器人路线图，以应对人工智能对伦理和安全带来的挑战。来自牛津大学、剑桥大学等大学和机构的人工智能专家撰写恶意
19、使用人工智能风险防范：预测、预防和消减措施，调查了人工智能恶意使用的潜在安全威胁，并提出了更好的预测、预防和减轻这些威胁的方法。经过近十年的发展，人工智能伦理已经成为人工智能领域新兴、重要的组成部分和发展内容。当代人工智能技术的快速、大规模普及应用，超越了历史上任何一个时代，由此衍生出的伦理问题已经不再是科幻小说中的天马行空的抽象思考，而是人工智能技术的滥用引发了一系列实际的、迫切的、前所未有的伦理问题。人工智能伦理发展历史与现状卡内基梅隆等多所大学的研究人员联合发布美国机器人路线图，以应对人工智能对伦理和安全带来的挑战。来自牛津大学、剑桥大学等大学和机构的人工智能专家撰写恶意使用人工智能风险
20、防范：预测、预防和消减措施，调查了人工智能恶意使用的潜在安全威胁，并提出了更好的预测、预防和减轻这些威胁的方法。经过近十年的发展，人工智能伦理已经成为人工智能领域新兴、重要的组成部分和发展内容。当代人工智能技术的快速、大规模普及应用，超越了历史上任何一个时代，由此衍生出的伦理问题已经不再是科幻小说中的天马行空的抽象思考，而是人工智能技术的滥用引发了一系列实际的、迫切的、前所未有的伦理问题。人工智能伦理发展历史与现状人工智能伦理体系本课程主要内容本课程全面地介绍人工智能伦理概念及人工智能应用伦理等方面的知识，全课程共13章，按28-32学时讲授。第1章介绍了与人工智能有关的伦理学、应用伦理等概念
21、，人工智能伦理概念、起源及发展现状，人工智能伦理学概念及研究内容。第2章和第3章分别介绍了涉及数据、算法等方面的伦理概念和相关问题。第4章至第6章分别介绍了机器伦理理论及机器人、自动驾驶汽车等机器涉及的相关伦理问题。本课程主要内容第7章选取智能医疗、智能教育、智能军事三个领域介绍了人工智能应用伦理的相关问题。第8章为人机混合智能伦理，介绍了脑机接口等技术形成的混合智能导致的伦理问题。第9章介绍了面向人工智能开发者和伦理算法方面的人工智能设计伦理。本课程主要内容第10章介绍了国际国内人工智能伦理研究所提出的原则。第11章介绍了人工智能全球化发展带来的人工智能全球伦理问题及宇宙背景下的人工智能宇宙伦理问题。第12章介绍了人工智能法律问题。第13章介绍了超现实人工智能伦理。本课程主要内容莫宏伟，徐立芳，人工智能伦理导论，西安电子科技大学出版社，2022年2月莫宏伟，徐立芳，人工智能导论，人民邮电出版社，2020年7月其余资料参见配套教材的主要参考文献。部分案例视频资料可登陆“人工智能新知识体系学习网http:/broadai.top/”下载。本课程配套教材及参考资料
