1、 人工智能治理白皮书人工智能治理白皮书 中国信息通信研究院中国信息通信研究院 中国人工智能产业发展联盟中国人工智能产业发展联盟 2020年年9月月 版权声明 本白皮书版权属于中国信息通信研究院和中国人工智能产业发展联盟，并受法律保护。转载、摘编或利用其它方式使用本白皮书文字或者观点的，应注明“来源：中国信息通信研究院和中国人工智能产业发展联盟” 。违反上述声明者，编者将追究其相关法律责任。 前前 言言 当前，全球科技革命和产业变革孕育兴起，以深度学习、跨界融合、人机协同、群智开放、自主操控为特征的新一代人工智能不断取得突破，已成为新一轮科技革命和产业变革的重要驱动力量。在极大提升人类生产生活品
2、质的同时，新一代人工智能具有的通用目的性、算法黑箱性以及数据依赖性等技术特性，引发了社会、企业、个人等不同维度的风险和挑战， 从而对治理提出了专业化、 多元化、 敏捷化、全球化的迫切需要。因此，人工智能治理这一概念应运而生，成为国际社会广泛关注和研究的方向。 人工智能治理是一项复杂的系统工程，既需要明确治理原则、目标以及厘清治理主体，又需要提出切实有效的治理措施。全球正在逐步构建起人工智能治理框架，以坚持科技造福人类，平衡创新发展与有效治理的关系作为治理目标，采用多元主体参与、协同共治的治理机制，通过制定伦理原则、设计技术标准、确立法律法规等综合治理手段，推动人工智能健康有序发展。 人工智能的
3、治理体系需要“柔性的伦理”和“硬性的法律”的共同构建。一方面，以伦理为导向的社会规范体系，可以为人工智能技术层面的开发和应用提供价值判断标准， 约束和指导各方对人工智能进行协同治理。众多国际组织、国家和企业选择从伦理角度入手，试图确立人工智能的基本伦理规范，探索清晰的道德边界，并积极构建人工智能伦理的落地机制和体系。另一方面，以法律为保障的风险防控体系，依靠国家强制力划定底线，可以防范和应对人工智能技术带来的诸多风险。整体来看，人工智能相关立法正从慌乱走向理性，从源头治理走向综合治理，从粗放治理走向精细治理。同时，在自动驾驶、深度伪造、智能金融、智能医疗等场景下，人工智能立法取得率先突破，积累
4、了一定的监管经验。 本白皮书从人工智能第三次浪潮开辟的治理新需要出发， 结合当前人工智能发展阶段，分析了全球目前的人工智能治理机制，重点介绍了两项主要的治理举措， 即以伦理为导向的社会约束体系和以法律为保障的风险防控体系， 最后对人工智能治理的未来发展方向进行了展望，期待为社会各方提供有益参考。 目目 录录 一、人工智能开辟治理新需要. 1 （一）人工智能时代的兴起 . 1 1. 人工智能驱动新一轮科技革命 . 2 2. 人工智能打造经济发展新引擎 . 2 3. 人工智能显著提升社会生活质量 . 3 （二）人工智能的技术特性 . 4 1. 通用目的性，导致风险更为普遍 . 4 2. 算法黑箱性
5、，导致过程更难解释 . 5 3. 数据依赖性，导致结果更不可控 . 5 （三）人工智能引发不同维度的风险 . 6 1. 社会维度：影响社会稳定 . 6 2. 企业维度：加大合规难度 . 7 3. 个人维度：侵犯基本权益 . 9 （四）人工智能治理的新挑战 . 10 1. 治理专业化的需要 . 11 2. 治理多元化的需要 . 11 3. 治理敏捷化的需要 . 12 4. 治理全球化的需要 . 12 二、全球构建人工智能治理机制. 14 （一）治理目标：坚持科技造福人类，平衡创新发展与有效治理 . 14 1. 不断释放人工智能带来的技术红利和价值 . 15 2. 精准防范并应对人工智能可能带来的
6、风险 . 16 （二）治理模式：打造多元主体参与、协同共治的模式 . 17 1. 国家政府是执行治理规则的核心主体 . 17 2. 政府间国际组织是引导治理方向的重要力量 . 20 3. 行业组织是协调多方治理的积极推动者 . 20 4. 企业是践行行业自律自治的中坚力量 . 22 5. 公众是监督治理效果的重要参与者 . 23 （三）治理手段：实施多层次、多样化的治理举措 . 23 1. 伦理约束 . 24 2. 技术应对 . 25 3. 规范立法 . 25 三、以伦理为导向的社会规范体系. 27 （一）国际层面：开始制定全球性伦理倡议 . 28 （二）国家层面：各国伦理关注点各有侧重 .
7、31 1. 美国借助伦理规范保障国家安全 . 31 2. 欧盟推广可信人工智能伦理框架 . 32 3. 德国率先提出自动驾驶伦理准则 . 33 4. 中国倡导发展负责任的人工智能 . 33 （三）企业层面：践行伦理的自我规制之道 . 37 1. 制定企业伦理原则 . 37 2. 开展内部机构建设 . 38 3. 构建企业实践机制 . 39 （四）总结：人工智能伦理规制从伦理原则走向伦理体系 . 43 1. 第一阶段已形成共识性伦理原则 . 43 2. 第二阶段逐步探索伦理体系构建 . 50 四、以法律为保障的风险防控体系. 53 （一）全球人工智能立法整体趋势 . 53 1. 数据和算法规制成
8、为人工智能立法的首要命题 . 54 2. 人工智能立法渐趋理性，更尊重技术规律和法律安定性 . 57 3. 普遍体现以风险为导向的分级分类治理思路 . 60 （二）人工智能的场景化规制 . 63 1. 助力自动驾驶落地 . 63 2. 防止深度伪造滥用 . 69 3. 规范智能金融产品 . 74 4. 促进智能医疗发展 . 77 五、人工智能治理展望. 81 （一）坚持包容、弹性的治理理念 . 81 （二）构建不同阶段的治理路径 . 83 1. 近期应加快制定产品和服务标准，利用“数据治理”推动人工智能治理问题的解决 . 84 2. 中远期应调整责任法律制度，实现法律与伦理相衔接 . 87 （
9、三）打造多元共治的治理机制 . 89 图图 目目 录录 图 1 深度学习与传统机器学习的差别图 . 5 图 2 人工智能治理机制图 . 14 图 3 人工智能伦理文件类型图 . 28 图 4 人工智能伦理体系图 . 50 表表 目目 录录 表 1 各国人工智能管理机构 . 18 表 2 各国人工智能标准文件 . 21 表 3 各国人工智能伦理文件 . 34 表 4 科技企业人工智能伦理文件 . 40 表 5 人工智能伦理原则、解释说明以及举例 . 45 表 6 各国对于自动驾驶的立法规制 . 67 表 7 各国对于深度伪造的立法规制 . 72 表 8 各国对于智能金融产品的规制 . 76 表
10、9 各国对于智能医疗的规制 . 80 人工智能治理白皮书 1 一、人工智能开辟治理新需要 人工智能是指，用机器模拟、实现或延伸人类的感知、思考、行动等智力与行为能力的科学与技术。作为引领未来的战略性技术，人工智能是新一轮科技革命和产业变革的重要驱动力量， 已经成为国际竞争的新焦点、经济发展的新引擎。人工智能在极大提升人类生产水平和生活品质的同时，也带来了新风险、引发了新问题，对一个国家治理能力的法治化、智能化、专业化水平提出全新要求。目前，国际社会纷纷呼吁加强人工智能治理， 发展安全可信、 负责任的人工智能。 （一）人工智能时代的兴起（一）人工智能时代的兴起 人工智能概念的提出，始于 1956
11、 年美国达特茅斯会议。人工智能至今已有 60 多年的发展历程，从诞生至今经历了三次发展浪潮。前两次浪潮中，由于算法的阶段性突破而达到高潮，之后又由于理论方法缺陷、产业基础不足、场景应用受限等原因而没有达到人们最初的预期，并导致了政策支持和社会资本投入的大幅缩减，从而两次从高潮陷入低谷。 近年来， 在移动互联网、 大数据、 超级计算、 传感网、脑科学等新理论新技术以及经济社会发展强烈需求的共同驱动下， 以人工智能治理白皮书 2 深度学习、跨界融合、人机协同、群智开放、自主操控为特征的新一代人工智能技术不断取得新突破， 迎来了人工智能的第三次发展浪潮。 1. 人工智能驱动新一轮科技革命 人工智能是
12、当前科技革命的制高点， 以智能化的方式广泛联结各领域知识与技术能力，释放科技革命和产业变革积蓄的巨大能量，成为全球科技战的争夺焦点。 世界主要发达国家纷纷把发展人工智能作为提升国家竞争力的主要抓手， 努力在新一轮国际科技竞争中掌握主导权，围绕基础研发、资源开放、人才培养、公司合作等方面强化部署。例如，美国为人工智能研发投入大量资金，确保其人工智能在全球的领先地位；英国利用其在计算技术领域的积累，致力于建设世界级人工智能创新中心；日本以建设超智能社会 5.0 为引领，旨在强化其在汽车、机器人等领域全球领先优势。 2. 人工智能打造经济发展新引擎 当前，以智能家居、智能网联汽车、智能机器人等为代表
13、的人工智能新兴产业加速发展，经济规模不断扩大，正成为带动经济增长的重要引擎。普华永道提出，人工智能将显著提升全球经济，到 2030人工智能治理白皮书 3 年，人工智能将促使全球生产总值增长 14%，为世界经济贡献 15.7万亿美元产值。一方面，人工智能驱动产业智能化变革，在数字化、网络化基础上，重塑生产组织方式，优化产业结构，促进传统领域智能化变革，引领产业向价值链高端迈进，全面提升经济发展质量和效益。另一方面，人工智能的普及将推动多行业的创新，大幅提升现有劳动生产率，开辟崭新的经济增长空间。据埃森哲预测，2035 年人工智能将推动我国劳动生产率提高 27%，经济总增加值提升 7.1 万亿美元
14、。 3. 人工智能显著提升社会生活质量 人工智能在教育、医疗、养老等民生服务领域应用广泛，推动服务模式不断创新， 服务产品日益优化， 创新型智能服务体系逐步形成。在医疗方面，人工智能不断提升医疗水平，特别是在新冠肺炎疫情期间，人工智能在疫情监测、疾病诊断、药物研发等方面发挥了重要作用。在教育方面，人工智能的应用加快了开放灵活的教育体系的建设工作，能够实现因材施教，推动个性化教育发展，进一步促进教育公平和提升教育质量。在养老方面，人工智能在助残养老领域的应用不人工智能治理白皮书 4 断丰富和创新， 在帮助残疾人和老人提升生活自理能力和尊严感方面发挥重要作用。 例如， 护理型机器人通过与照护对象进
15、行交互性治疗，可以降低老年人的孤独感，极大改善老年人的生活。 （二）人工智能的技术特性（二）人工智能的技术特性 人类正处于一个前所未有的时期，互联网、移动通信、物联网、云计算、大数据、人工智能等信息技术正在推动社会逐步进入智能化时代。相较于其他领域的新技术，由于新一代人工智能具有的技术特性，使其更为复杂、更不可控、更难预测。 1. 通用目的性，导致风险更为普遍 人工智能作为一项通用目的技术，可以应用到自动驾驶、智能制造、智慧城市、智慧医疗等诸多领域场景中，并且能够与大数据、云计算等数字技术互补互促使用，有着极强的技术溢出效应，对经济社会高质量发展显现出强劲的引领带动作用。但与此同时，人工智能技
16、术风险发生的范围会随着应用场景的日趋广泛而逐步扩大， 问题发生的可能性也会随着其应用频次的增长而持续提高， 若不及时有效治理，将会严重影响人类生产生活。 人工智能治理白皮书 5 2. 算法黑箱性，导致过程更难解释 目前，以深度学习算法为核心的人工智能算法模型被普遍应用，但由于其算法结构中存在多个“隐层” ，导致输入数据和输出结果之间的因果逻辑关系难以清楚解释， 用户只能被动接受由算法带来的结果而无法洞悉其运行过程，从而形成一种技术“黑箱” 。此外，人工智能算法模型还具有自适应、自学习等特性，导致其极易偏离人类预设的目标，其复杂程度愈发超出人类理解范畴。 来源：资料整理 图 1 深度学习与传统机
17、器学习的差别图 3. 数据依赖性，导致结果更不可控 数据是人工智能模型训练及优化的“燃料” ，是人工智能算法做出正确、 公平、 合理决策的基础保障。 输入数据的数量规模、 准确性、人工智能治理白皮书 6 通用性、包容性、全面性等质量因素将直接决定训练得到的模型的质量。同时，数据本质上是社会价值观的缩影与映射，因此也会包含一些落后的价值观与社会偏见。若未能对数据质量进行有效把控，人工智能算法模型便很可能习得数据中的偏见谬误， 并将其反映到训练结果中，致使人工智能系统的功能行为及其影响变得更不可控。 （三）人工智能引发不同维度的风险（三）人工智能引发不同维度的风险 作为引领未来的战略性技术，人工智
18、能在打造经济发展新引擎、推动人类文明迈上新台阶的同时，也给社会、企业和个人带来了不同维度的风险挑战。 1. 社会维度：影响社会稳定 一是冲击就业格局，加剧财富分化。智能的算法、机器对传统人工的替代在解放人力劳动者的同时，直接带来了对就业的冲击。从事重复性、机械性等工作的劳动者更容易被人工智能替代工作。据麦肯锡报告推测，到 2030 年机器人将取代 8 亿人的工作。与历史上的技术革命类似，人工智能的发展同样会导致利益的分化与重构，新创造的社会财富将会不成比例地向资本一方倾斜， 低收入与受教育程度较人工智能治理白皮书 7 低的人群将在新一轮的社会资源分配中处于严重的不利地位。 二是影响政治进程，抹
19、黑政治人物。人工智能在社交服务中的应用能够影响政治进程，利用机器人水军可以进行舆论干预。例如，剑桥分析公司利用人工智能，辅助进行竞选策略，影响美国大选结果。此外， 可以利用深度伪造等智能信息服务技术制作关于政治人物的虚假负面视频。例如，2018 年 4 月，美国前总统奥巴马的脸被“借用”来攻击特朗普总统，视频在 YouTube 上被转发 500 多万次。 三是侵害事件频发，危及公共安全。人工智能安全事故、侵害事件频发，引发社会各界普遍关注。例如，特斯拉 Model S 在美国和我国境内都曾发生过自动驾驶致死事故和数起交通事故；2018 年委内瑞拉总统在公开活动中受到无人机炸弹袭击， 这是全球首
20、例利用人工智能产品进行的恐怖活动；2018 年，优步的一辆自动驾驶测试车在进行路试时发生事故，导致一行人死亡。 2. 企业维度：加大合规难度 一是不良信息频现，企业审核能力不足。如果向人工智能系统输入不完整、 不正确、 质量不高的数据， 则会产生不良或者歧视性信息，人工智能治理白皮书 8 即所谓的“垃圾进，垃圾出” 。例如微软公司的人工智能聊天机器人Tay 上线后，被网民“教坏” ，发布诽谤性的、歧视性的推文。此外，人工智能技术极大地促进数字内容产业的繁荣。预计到 2022 年，全球互联网流量将达到每秒 7.2 PB。 企业试图依靠传统审核模式实现内容的准确判断并及时应对信息爆炸引发等各类问题
21、，越发捉襟见肘。 二是法律责任不明，陷入责任划分困境。由于当前人工智能产品在问题回溯上存在不可解释环节， 而且现行立法也未明确界定人工智能的设计、生产、销售、使用等环节的各方主体责任与义务，这给人工智能安全事件的责任认定和划分带来严峻挑战。例如，人工智能医疗助理（例如 IBM 的“沃森医生” ）给出危险错误的癌症医疗建议时的责任认定等问题。而且，当人工智能出现自主决策能力后，自动驾驶汽车因独立智能决策致损时，如何确定侵权主体及划分责任。 三是知识产权保护不足，版权认定困难。目前，各国就人工智能生成物所包含的权利类型和权利归属存有争议， 人工智能创作物的版权保护仍普遍面临法律滞后问题。例如，澳大
22、利亚法院判定，利用人工智能生成的作品不能由版权保护，因为它不是人类制作的。如果人人工智能治理白皮书 9 工智能创作物得不到法律有力的保护， 会使得人工智能生成信息的复制和扩散门槛更低， 影响投资人、 创造人投入人工智能创作的积极性。 3. 个人维度：侵犯基本权益 一是算法偏见现象，影响公平正义。人工智能算法并非绝对客观世界的产物，算法偏见不仅是技术问题，更涉及到对算法处理的数据集质量的完整性、算法设计者的主观情感偏向、人类社会所固有的偏见、甚至不同地区文化差异等各方面问题。例如，美国一些法院适用的风险评估算法 COMPAS 被发现对黑人造成了系统性歧视。人脸识别软件 Rekognition，曾
23、将美国国会议员中的 28 人误判为罪犯。 二是信息收集多样，侵犯个人隐私。随着人脸识别、虹膜识别等应用的普及，人工智能正在大规模、不间断地收集、使用敏感个人信息，个人隐私泄露风险加大。例如，变脸应用“ZAO”因用户协议过度攫取用户授权、 存在数据泄漏问题而被监管机构约谈要求自查整改。杭州一动物园因启用人脸识别技术， 强制收集游客敏感个人信息而被诉至法院，成为我国“人脸识别第一案” 。 三是滥用智能产品，侵犯人格尊严。利用深度伪造技术能实现将人工智能治理白皮书 10 人脸移转到色情明星的身体，伪造逼真的色情场景，使污名化他人及色情报复成为可能。例如，通过 DeepNude 软件，输入一张完整的女
24、性图片就可一键生成相应的裸照。此外，还发生过亚马逊智能音箱劝主人自杀等事件。 （四）人工智能治理（四）人工智能治理的新挑战的新挑战 人工智能技术的发展已经进入了某些科技领域的“无人区” ，人工智能除技术本身可能发生问题之外， 诸多应用在使用过程中也存在负效应。但目前，相应的风险防控机制和规则制定相对滞后，不可控的预期与担忧使得人工智能在创新上面临巨大的压力， 人工智能治理也就成为了人工智能技术和应用发展到一定阶段的必然结果。 联合国全球治理委员会对治理的概念进行了界定，认为“治理”是指“各种公共的或私人的个人和机构管理其共同事务的诸多方法的总和， 是将相互冲突的或不同利益得以调和，并采取联合行
25、动的持续过程” 。当前，虽然各界对于人工智能治理的内涵没有统一的界定，但本白皮书将人工智能治理解释为，国际组织、国家、行业组织、企业等多主体对人工智能研究、开发、生产和应用中出现的公共安全、道德伦理等人工智能治理白皮书 11 问题进行协调、处理、监管和规范的过程。人工智能治理既需合理利用人工智能的优势，又要善于规避人工智能的负效应，以推动全人类社会福祉。 1. 治理专业化的需要 面对人工智能可能引发的新的全球焦虑， 人工智能监管机构应及时察觉、管控危机、防范潜在风险。但目前，各国人工智能监管机构大多由政治实体组成，在应对人工智能等新议题的挑战时，需要与专业知识共同体形成有效联动。因此，监管机构
26、应当以深厚的专业化知识作为治理基石，构建起涵盖人工智能相关的数学、计算机科学等学科的专业化治理团队，为监管提供必要的知识储备和智力支持。 2. 治理多元化的需要 人工智能本身是一门综合性的前沿学科和高度交叉的复合型学科，研究范畴广泛而又异常复杂。人工智能的治理需要计算机科学、数学、认知科学、神经科学和社会科学等学科深度融合，这引发了对于人工智能治理主体多元构成的需求。 近年来， 国际组织、 各国政府、行业组织和企业等各类主体也在积极探索多元主体参与的协同共治人工智能治理白皮书 12 治理格局。因为只有在治理过程中，不断推动多领域间进行广泛交流和合作，采用灵活多元的方式，才能避免某些不可逆的问题
27、出现。 3. 治理敏捷化的需要 人工智能的产业革命呈现出高速迭代化的特征， 各种细分领域的产业化应用层出不穷。新兴业态呼唤新的治理方案，在治理原则、治理主体和治理手段上有别于传统治理框架， 引发了对于人工智能治理敏捷化的需要。在治理过程中，需要通过不断提升技术手段，优化治理机制，及时发现和解决可能引发的风险，对更高级人工智能的潜在风险持续开展研究和预判， 确保人工智能朝着有利于社会的方向发展。 4. 治理全球化的需要 人工智能作为一种通用性技术，所引发的人员失业、公共安全等问题具有全球性，需要全球共同面对并达成全球性共识，而且人工智能的不稳定与多样化应用又呼唤相对统一的治理规则与国际合作。 只
28、有世界各国共同寻求有效路径，探索全球问题的解决之道，才能使人工智能在可见的甚或遥远的未来更好地造福于人类， 及时管控可能的危机以及防范潜在风险。 人工智能治理白皮书 13 人工智能治理白皮书 14 二、全球构建人工智能治理机制 人工智能治理是一项复杂的系统工程， 既需要明确治理原则及目标、厘清治理主体，又需要提出切实有效的治理措施。为此，人工智能治理应当构建由政府、行业组织、企业以及公众等多元主体共同参与、协同合作的多层次的治理体系，通过制定伦理原则、设计技术标准、确立法律法规等多种举措，实现科技向善、造福人类的总体目标愿景，推动人工智能健康有序发展。 来源：资料整理 图 2 人工智能治理机制
29、图 （一）治理目标：坚持科技造福人类，平衡创新发展与（一）治理目标：坚持科技造福人类，平衡创新发展与有效治理有效治理 人工智能治理白皮书 15 总体来说，人工智能治理应以科技造福人类为总体目标，既要不断释放人工智能所带来的技术红利， 也要精准防范并积极应对人工智能可能带来的风险， 需要平衡好人工智能创新发展与有效治理的关系，持续提升有关算法规则、数据使用、安全保障等方面的治理能力，为人工智能营造规范有序的发展环境。 1. 不断释放人工智能带来的技术红利和价值 人工智能作为一项新型通用目的性技术， 将在改造升级传统产业、培育新兴产业、加速实体经济转型、保障改善民生等经济社会发展诸多关键环节发挥重
30、要作用。例如，阿根廷、巴西等国在其发布的人工智能国家战略中明确指出 “人工智能应提升各利益攸关方的福祉”“将人工智能对科技发展、竞争力与生产力提升、公共福利增强的促进作用最大化” ，最大程度释放人工智能技术红利。在我国，目前人工智能正在与制造业、交通、物流、农业、公共服务等攸关社会民生的行业进行不同程度的融合，逐渐创造出了新产品、新服务、新业态、新模式，形成创新驱动力、促进传统行业变革、促进实体经济增长，不断释放人工智能技术红利和潜在价值，推动实现经济高质量发展。 人工智能治理白皮书 16 2. 精准防范并应对人工智能可能带来的风险 人工智能在为人类社会发展带来更多便利、更高效率的同时，也会进
31、一步模糊机器世界与人类世界的边界，导致诸如算法歧视、隐私保护、权利保障等风险问题，甚至会引发社会失业、威胁国家安全等严峻挑战。鉴于人工智能带来的风险涉及范围广、影响大，因此有必要从全球治理的高度， 重新审视并思考如何精准防范并有效应对解决人工智能所带来的风险挑战， 以避免人工智能对人类社会发展产生的负面影响。例如，韩国在人工智能国家战略中提出“防止人工智能产生负面效应， 制定人工智能伦理体系， 推进监测人工智能信赖度、安全性等的质量管理体系建设”等引导人工智能安全发展的要求。 平衡好人工智能创新发展与有效治理的关系是关键。一方面，过于严苛的治理方式会限制人工智能技术的创新与进步， 导致任何技术
32、创新都步履维艰。但另一方面，没有任何监管与规制的人工智能极易“走偏”甚至“误入歧途” ，给人类社会带来风险与危害，违背科技造福人类的目标愿景。因此，应当找到创新发展与有效治理之间的平衡点，坚持安全可控的治理机制，将开放创新的技术发展并重，给予人工智能治理白皮书 17 技术进步与市场创新适当的试错、调整空间，对人工智能发展既不简单粗暴、一刀切似地扼杀，也不任其自由泛滥，而是要充分发挥出多元主体协同共治的效能，使各方各司其职、各尽其力，把握好治理原则，守住治理底线，确保人工智能产业创新活力与发展动力，提升公众在使用人工智能技术及产品时的获得感、安全感、幸福感。 （二）治理模式：打造多元主体参与、协
33、同共治的模式（二）治理模式：打造多元主体参与、协同共治的模式 人工智能治理的重要特征之一是治理主体的多元化， 其依赖于包括国家政府、 行业组织、 企业、 公众在内的各利益攸关方的参与合作、各司其职、各尽其能，以适当的角色、最佳的方式协同共治，从而构建严谨、全面、有效的全新治理模式。 1. 国家政府是执行治理规则的核心主体 国家政府在人工智能治理中发挥着领导性作用， 主要体现在国家层面上统领人工智能技术研发与治理框架的搭建， 专业管理机构的设立，以及政策与法律规则的制定等方面。国家政府作为肩负公共事务管理职责的公权力机关，是公共利益和广大民意的代言人，同时也是国家安全和社会稳定的捍卫者， 对人工
34、智能技术进行治理便是应有之人工智能治理白皮书 18 义。为此，各国政府增设专业管理机构，积极布局人工智能技术的研发与投资路线，监督和管理为人工智能发展设定的标准和规则。美国成立的管理机构较多， 分别聚焦于军事、 技术研发等方面的监督管理。欧盟以及英国则更加关注经济、产业方面的监管议题，并注重数据治理与保护。日本重点关注智能制造、健康医疗、智能交通等领域的应用与监管。整体上来看，各国管理机构的人员背景具有多元化，机构职能具有多样化的特点。 表 1 各国人工智能管理机构 国家 监管机构名称 监管相关职责 建立时间 负责部门 美国 机器学习与人工智能分委会 监督各行业、 研究机构以及政府部门的人工智
35、能研发 2016 年 5 月 美国国家科学与技术委员会 人工智能专门委员会 负责审查联邦机构的人工智能领域投资和开发方面的优先事项 2018 年 5 月 白宫科技政策办公室、美国国家科学与技术委员会、国防部高级研究计划局等 联合人工智能中心 监管国防机构人工智能工作 2018 年 6 月 美国国防部 人工智能国家安全委员会 考察并监督人工智能技术应用在军事中的情况，评估其安全、伦理、 对国际法影响等风2018 年 11 月 美国众议院武装部队新型威胁与能力小组委员会 人工智能治理白皮书 19 国家 监管机构名称 监管相关职责 建立时间 负责部门 险 欧盟 人工智能高级小组 研究并起草人工智能监
36、管框架、 并指导欧洲相关企业进行落实 2018 年 6 月 欧盟委员会 英国 人工智能理事会 监督英国人工智能战略实施并为政府提出建议 2018 年 4 月 英国政府人工智能办公室 数据伦理和创新中心 审查、 监管现有的数据（包括人工智能） 治理格局，并就其安全、道德、 创新使用为政府提出建议 2018 年 11 月 英国政府 人工智能特别委员会 负责提供人工智能发展建议，为 AI 发展设定标准和规则 2018 年 4 月 英国上议院 法国 人工智能伦理委员会 监督军用人工智能的发展 2019 年 4 月 法国政府 日本 人工智能技术战略会议 国家层面的人工智能综合管理机构， 负责政策及应用的
37、监管 2016 年 4 月 日本政府 印度 人工智能伦理委员会联盟 制定人工智能产品研发标准 2018 年 6 月 印度政府 墨西哥 人工智能办公室 规范人工智能健康发展 2018 年 6 月 墨西哥政府 中国 新一代人工智能发展规划推进办公室 研究人工智能相关法律、伦理、标准、社会问题以及治理议题 2017 年 11 月 国家科技体制改革和创新体系建设领导小组 来源：资料整理 人工智能治理白皮书 20 2. 政府间国际组织是引导治理方向的重要力量 人工智能的发展具有跨国界、国际分工的特征，需要政府间国际组织加强国家间协调合作。因此，政府间国际组织在全球人工智能治理中扮演着引导者和推动者的角色
38、。首先，政府间国际组织引导人工智能领域形成大国共识。 由于各国在人工智能技术研发的关注与投入不同，关于人工智能治理的规则率先在发达国家形成和扩散。政府间国际组织作为引领国际规则制定的风向标， 也在早期就针对人工智能与监管展开讨论，汲取各国关于人工智能治理的原则性宣言，引导人工智能治理稳步迈向并达成国际共识。其次，政府间国际组织推动人工智能治理规则的全球共享。人工智能技术在各国发展参差不齐，多数发展中国家和不发达国家还并未将人工智能治理纳入国家战略。 由此，政府间国际组织前瞻性地发布人工智能治理规则，推动缩短国家间数字鸿沟，促进世界各国人工智能技术的协调、健康、共享发展。 3. 行业组织是协调多
39、方治理的积极推动者 行业组织作为兼顾服务、沟通、自律、协调等功能的社会团体，是协调人工智能治理、 制定人工智能产业标准的先行者和积极实践者。人工智能治理白皮书 21 其中，行业组织包括行业协会、标准化组织、产业联盟等机构，代表性的行业协会包括电气与电子工程师协会（IEEE） 、美国计算机协会（ACM） 、人工智能促进协会（AAAI）等，标准化组织包括国际标准化组织（ISO） 、国际电工委员会（IEC）等。产业联盟包括国际网络联盟、我国的人工智能产业技术创新战略联盟、人工智能产业发展联盟等。为推动行业各方落实人工智能治理要求，行业组织较早地开展了人工智能治理相关研究，积极制定人工智能技术及产品标
40、准，并持续贡献着治理智慧。 表 2 全球人工智能标准文件 文件名称 核心内容 发布机构 ISO/IEC 20005 （2013 年） 传感器网络标准化：术语与词汇、智能传感网络协同信息处理支持服务和接口 国际标准化组织、国际电工委员会 ISO/IEC 30122 （2016 年） 人机交互标准化： 框架与通用指南、构建与测试、翻译与本地化、语音命令注册管理 ISO/IEC 19944 （2017 年） 云计算标准化：互操作与可移植、跨设备数据与云服务的数据流 算法透明和可责性声明（2017 年） 充分认识算法歧视、 明确数据来源、提高可解释性与可审查性、建立严格的验证测试机制 美国计算机协会
41、IEEE P7000 （2016 年） 系统设计期间解决伦理问题的模型过程的标准 电气和电子工程师协会 人工智能治理白皮书 22 文件名称 核心内容 发布机构 IEEE P7001 （2016 年） 自主系统的透明度的标准 IEEE P7002 （2016 年） 数据隐私处理的标准 IEEE P7003 （2017 年） 算法偏差注意事项 IEEE P7006 （2017 年） 个人数据人工智能代理标准 中文语音识别系统通用技术规范中文语音合成系统通用技术规范自动声纹识别 （说话人识别）技术规范中文语音识别互联网服务接口规范中文语音合成互联网服务接口规范 语音交互系列标准 全国信息技术标准化技
42、术委员会 共享学习系统技术要求 （2020 年） 共享学习的技术框架及流程、技术特性、安全要求 中国人工智能产业发展联盟 来源：资料整理 4. 企业是践行行业自律自治的中坚力量 企业在推动人工智能治理规则和标准落地上发挥着决定性作用，是践行治理规则和行业标准的中坚力量。 企业作为人工智能技术的主要开发者和拥有者，掌握了资金、技术、人才、市场、政策扶持等大量资源，理应承担相关社会责任，严格遵守科技伦理、技术标准以及人工智能治理白皮书 23 法律法规， 以高标准进行自我约束与监督， 实现有效的行业自律自治。面对人工智能所引发的社会担忧与质疑， 一些行业巨头企业也开始研究人工智能对社会经济、伦理等问
43、题的影响，并积极采取措施确保人工智能可以造福人类。由此，企业是必不可少地人工智能治理规则践行者，也是确保人工智能技术向正确道路发展的重要防线。 5. 公众是监督治理效果的重要参与者 公众是人工智能技术、产品的主要服务对象，拥有对人工智能治理相关内容的监督、讨论、意见反馈等权利。因此公众要积极参与到治理规则制定中，适当介入相关监督、监管过程中，为人工智能治理献计献策， 形成自下而上的协同治理模式， 使人工智能服务真正地 “以人为本，造福人类” 。治理好人工智能，需要着力畅通各个治理主体间沟通渠道，加强多元主体间的对话与协商，合作制定为应对人工智能风险挑战的整体解决方案。因此，公众的参与是实现人工
44、智能有效治理不可缺少的重要力量。 （三）治理手段：实施多层次、多样化的治理举措（三）治理手段：实施多层次、多样化的治理举措 人工智能治理手段主要包括伦理约束、技术应对、规范立法等三人工智能治理白皮书 24 个方面。 1. 伦理约束 现行的伦理制度是以规范人与人之间的关系和行为为主体的制度，通过社会普遍价值观来实现行为约束功能，是人类价值判断和行为取向的根由。然而，人工智能模拟“人的智力”的能力实现技术与人的 “耦合” ， 作为相对主体直接 “参与” “人人” 的传统道德关系，形成“人人工智能”相互间的道德关系。因此，作为人工智能治理中极为重要的一环人工智能伦理， 也就成为了人工智能时代的必然产
45、物。具体而言，人工智能伦理是指处理机器与人、机器和社会相互关系时应遵循的道理和准则，它既包括对技术本身的研究，也包括在符合人类价值的前提下对人机之间的关系研究。 人工智能最大的弱点是缺乏直接的感受能力，在价值判断上存在弱点，而人工智能伦理准则所倡导的造福人类、避免伤害、公平正义等价值理念，为人工智能技术层面的开发和运用提供了价值判断标准。 人工智能伦理不仅弥补了法律的空白，还作为试验性规范为立法的创制积累经验。而且，伦理由于脱离强制性立法规定的范畴， 更易引发国际共同体成员在人工人工智能治理白皮书 25 智能伦理领域的探讨，也更有助于在全球形成人工智能伦理共识。 2. 技术应对 随着人工智能的
46、持续发展， 人工智能的技术治理方式也在不断突破创新，方法种类不断丰富，作用效果逐步提升。同时，人工智能技术本身也作为一项精准、高效、智能的技术治理工具，正在被尝试用来解决人工智能所带来的风险问题， 应对未来智能社会中的安全挑战。具体来看，现阶段部分领先企业已通过数据筛选、算法设计、模型优化等技术手段，将伦理原则“嵌入”人工智能应用与产品中，从而解决诸如隐私泄露、算法偏见、非法内容审核等问题，以达到科技向善的目的。例如微软利用“单词嵌入”的自然语言处理工具解决文本搜索中的性别偏见问题。 IBM 通过其自研的 “AI Fairness 360” 工具包，监测并报告算法在机器学习训练中可能产生的偏见
47、或歧视， 并降低其后续发生概率。Facebook 利用 eGLYPH、DeepText 等工具，审核并发现存在极端主义或涉及种族歧视等言论的新闻内容， 并第一时间对其删除阻断。 3. 规范立法 人工智能治理白皮书 26 立法是治理的重要手段，对于人工智能的治理活动，立法是其重要途径。对于人工智能的产业促进，破除人工智能发展的现实阻碍，规范立法是其重要手段，例如人工智能产品带来的责任归属问题，智能产品侵权等相关法律问题， 都是对人工智能的发展促进过程中必须关注和解决的重要问题。针对人工智能的规范立法，我们应当考虑采取包容审慎、灵活弹性的规制方式。一方面要避免草率立法对人工智能发展带来的阻碍，另一
48、方面也要跟上技术发展节奏，敏捷灵活对其进行规范规制。因此，一种思路是在人工智能发展初期先通过制定行业公约、伦理规范、技术指南等方式对其进行敏捷灵活的治理，待其发展相对成熟，便可出来相关严格法律对其进行约束管控。目前全球各国也都在陆续开展对人工智能相关应用场景规范立法工作。 人工智能治理白皮书 27 三、以伦理为导向的社会规范体系 由于新一代人工智能具有的通用目的性、 数据依赖性和算法黑箱性等特性， 因此人工智能治理规则不能完全依赖有强制约束力的法律，而是需要“伦理”和“法律”的共同构建。人工智能伦理对于促进人工智能进步、防止人工智能异化具有重要作用，具有良好伦理素养的研发者和应用者，能够将自己
49、的行为与造福人类结合起来，慎重对待影响人的生存发展的人工智能研发和使用， 防范人工智能风险事故的发生。因此，人工智能伦理能够以较为柔和的形式引导、规范行业行为，最终实现“柔性治理”的目的。 目前， 人工智能治理的首要问题就是形成一套人工智能伦理体系，借用这套伦理体系去约束和指导各方对人工智能进行协同治理。 众多国际组织、国家和企业选择从伦理角度入手，试图确立人工智能的基本伦理规范，探索清晰的道德边界，构建人工智能伦理的落地机制和体系，以引导人工智能创新，寻求创新与风险的平衡。从整体上看，以制定主体为标准进行划分， 全球范围内的人工智能伦理文件主要分为三类：国际组织文件、各国政府文件和产业界文件
50、，包括宣言、原人工智能治理白皮书 28 则、 计划、 指南等多种类型。 虽然各自名称不同， 但内容相似度较高，并以软性规制为主，普遍关注增进人类福祉、技术包容公平、维护人类尊严、保障安全和隐私保护等伦理内容。1但是，这三类文件的关注点略有不同，国际层面的伦理文件在积极探索共识性伦理原则；各国层面的伦理文件主要服务于国家人工智能产业发展路径； 企业层面的伦理文件更加关注如何将伦理理念践行于具体的产品和服务中。 来源：资料整理 图 3 人工智能伦理文件类型图 （一）国际层面：（一）国际层面：开始制定开始制定全球性伦理倡议全球性伦理倡议 由于人工智能引发的风险具有全球性特征， 因此对于人工智能需以全
