本文转自：长江日报

北京大学哲学系教授尚新建：

我们当然不能把机器人只视为“钳子”

《流浪地球2》中的“月面机器人”。

图源：@电影流浪地球

□ 长江日报记者李煦

【访谈】

正在上演的大片《流浪地球2》中，出现了各种形态、各种功能的机器人，它们在未来世界中无处不在。

其实，机器人广泛进入人类生活的那一天并不会太遥远。今年1月18日，工业和信息化部等十七部门印发了《“机器人+”应用行动实施方案》，明确提出：到2025年，服务机器人、特种机器人行业应用深度和广度显著提升；除了经济、安保等领域，还要重点发展养老、教育、医疗等领域的机器人应用。

这些机器人，会听人类的话吗？会对人类友好吗？会尊重人的需求吗？

这就涉及机器人伦理学了。在十七部门印发的文件里有这样一句话：“加强对重点行业机器人应用相关规章制度和伦理的研究。”机器人伦理学，关系到“规则”的制定，正成为一门新兴而重要的学科。

前不久，由北京大学哲学系教授尚新建和北京市社科院哲学所研究员杜丽燕联袂翻译的《机器人伦理学导引》出版，长江日报《读+》周刊就此话题专访了尚新建老师。

■ 从业人员的道德水准直接影响产品

读+：能否把机器人仅仅视为工具，类似一把钳子，与机器人有关的伦理问题，实质上仍然是一群人与另一群人（钳子制造者、管理者、使用者）之间的伦理问题？

尚新建：您的比喻很有趣，也非常形象，不过，这只是机器人伦理学关注的一个部分，而且，还不是体现机器人伦理学独特性的部分。

机器人伦理学关注三方面的论题——创造和使用机器人的人的伦理学；嵌入机器人的伦理系统；人如何对待机器人的伦理学。

人们相信，从业人员的道德水准会直接影响产品的设计和质量。只有从业人员重视职业道德修养，对他人的价值观保持高度的敏感性，公众的安全、健康和福利才能得到保障。为了规范从业人员的行为，美国伍斯特理工学院专门为机器人工程师制定了《机器人工程师伦理准则》，韩国2005年颁布了《韩国机器人伦理学宪章》，也可看作是对机器人领域从业人员的伦理规范。在这一层面，围绕机器人而形成的伦理关系与钳子并无多大区别，其道德水平可称之为“操作的道德”，道德主动权几乎完全掌握在产品的设计制作者和使用者手里。

然而，机器人又不同于其他人工产品，因为前者多少具有一定的智能，其行为具有一定的自主性。以无人车（自动驾驶汽车）为例，高速行驶的无人车，遇到突然出现的行人，避让会导致乘客身亡，不避让则会导致行人死亡。面对这种情况，无人车如何处置才是妥善的？这里，作为产品，无人车似乎与钳子的地位不同：后者完全是被动的工具，而前者似乎已经具有自主行动（无人驾驶），即能在可接受的行为标准内选择如何行动。

无人车或许只是一种较低程度的智能机器，但引发的伦理问题，其复杂性已经大大超越钳子之类的产品。在《导引》一书中介绍的医用机器人、助力机器人、社会化机器人和战争机器人，其智能至少相当于无人车，大多或略高于无人车。《导引》认为，其伦理行为应达到“功能的道德”层级，机器人具有道德判断能力，“在决策行为的过程中，无须人自上而下的指令。在这种情况下，设计者不再可能预测机器人的行为及其后果”。

“功能的道德”是介于“操作的道德”与“完全的道德”之间的一个层级。

人们的理想目标是全智能机器人。倘若有朝一日，人们研制出一个完全的人工智能机器人，它能摆脱人的控制，自行做出明确的道德判断，完全自主地决策自己的行为，那么，就可以认为它具有“完全的道德”，成为名符其实的“伦理机器人”。“伦理机器人”显然不是单纯的产品，而是准人类，甚至有人将其看作一个新的“物种”，与人类平起平坐。它们的伦理地位，显然不像被动的工具（钳子），而是类似于人与人之间的关系，直接与人发生伦理关系。当然，这种全智能机器人能否成为现实，至今仍为许多哲学家或科学家所怀疑。但是，这似乎符合人工智能研究和发展的轨迹。人类面对这种机器人的未来，或许现在就应该未雨绸缪，时刻把握和及时调整我们机器人和人工智能技术研发的伦理方向。

■ 中国学者奋起直追成就斐然

读+：国内在这方面的研究现状如何？

尚新建：机器人伦理学的诞生和发展，很大程度上取决于机器人研究、设计、制作以及应用的水平和规模。欧美和东亚一些国家在这方面起步较早（上世纪60年代），始终居领先地位。我国关于机器人伦理学的研究，无疑是从译介他们的研究成果开始的。除了我们的这部译著外，其他重要的相关译著还有：《道德机器：如何让机器人明辨是非》《军事机器人：道德规范的构建》《社交机器人：界限、潜力和挑战》《机器人伦理学》等。

近些年，随着我国人工智能和机器人的研发迅猛发展，与此相关的伦理问题逐渐引起各部门的广泛关注，亦激发学界的浓厚兴趣。中科院、社科院以及高等院校的一些学者，或立项研究，或撰文著述，或开会讨论，很快便取得斐然成就。更令人振奋的是，一些教研单位高瞻远瞩，面临包括机器人在内的人工智能等新兴科学技术的挑战，整合不同学科、不同领域的技术力量，建立跨学科研究机构，以探索和解决新兴科学技术提出的各类问题，诸如人工智能和机器人伦理学问题。两年前北京大学成立的哲学与人类未来研究中心以及北京大学博古睿研究中心，就是这样一种跨学科研究机构。研究团队中不仅有人工智能、计算机、机器人领域的专家，也有从事哲学、法律研究的人文社会科学学者。他们曾承担“国家机器人伦理标准化白皮书项目”，其最终成果《中国机器人伦理标准化前瞻（2019）》于2019年末由北京大学出版社出版。

读+：《导引》一书给日本列出专章，特别关注日本机器人伦理学和欧美的差异。您在“译者序”中写道，“日本与西方对于机器人伦理学的态度，源于各自的文化”；那么，您认为，源于中国文化，中国对于“机器人伦理学”会有怎样的贡献？

尚新建：“日本机器人伦理学、文化间际问题和立法问题”，是里头颇具特色的一章，阐述了在日本传统伦理文化的视角下，机器人伦理学可能呈现的基本面貌。文化都是特殊的，彼此有差异。不同的伦理文化要求机器人的行为尊重特殊的风尚习俗，融入当地的文化氛围。然而，机器人伦理学则努力从一般人类的立场出发，运用科学和哲学的基本概念、原理和方法，建立普遍的道德规范，解决机器人科学所引发的伦理问题。文化与机器人伦理学之间隐含巨大的张力。作者注意到，文化间际哲学理论试图通过不同文化之间的对话，形成价值共识。然而，普遍性与特殊性如何达成统一，始终是哲学探索的核心问题之一，且困难重重。人们一旦在共识的基础上形成一套有效跨越文化的“共同价值”，就“必须规范地予以界定，尽可能地维护和提升”。于是，如何设计规划这些共同价值，以适合文化间际机器人伦理学的问题便浮现台面：我们又回到普遍性与特殊性对立的原点。

随着机器人的研发和使用在世界不同的文化区域发展，机器人伦理文化的需求也日渐增长。不过，目前迫在眉睫的问题是探索并建立普遍的机器人伦理学，因为对机器人伦理问题是否具有合乎理性的科学和哲学思考，这一领域有无相关的规范、准则和立法，事关人类自身的安全与和平。在这一问题上，强调文化差异显然是不明智的。何况，我们中国人要为一门科学作出贡献，必须心胸开阔，放眼世界，尊重科学的普遍规律。北京大学编著的《中国机器人伦理标准化前瞻》一书提出“中国优化共生设计方案”，是一个有益的尝试：既从中国伦理传统中寻找独特的启示，又广泛吸纳其他国家发展出的当代机器人伦理理论，在此基础上，发展一套国际性机器人伦理标准化体系。这个方案不仅塑造了中国的机器人伦理标准体系的雏形，而且为世界机器人伦理标准的思考提供了一个新的、独特的视角。

■ 科幻的预见无法替代严肃的科学和哲学研究

读+：“机器人的伦理问题”与“人工智能的伦理问题”，这两者是什么关系？是否可以画等号？

尚新建：机器人与人工智能分属不同的领域，二者有交叉和重叠。

广义的机器人包括自动机遥控设备：凡在自控装置的控制下，能够按照程序执行各种操作任务的电子与机械相结合的机器，均可称作机器人，并不一定是智能型机器人。因此，可以将一般机器人定义为“一种具有拟人功能的机械电子装置”。例如，由程序控制的机械手，可以有多种功能，从事移动、传递、装配、拆解等各类操作，替代人的工作。

人工智能是计算机学科的一个分支，主要研究如何用计算机模拟人类智能，以相似人类的方式执行某些智能任务，例如游戏活动、图形识别、学习过程、理解会话、探索过程、推理过程、环境适应等方面的工作。

尽管时至今日，“人工”和“智能”两个概念仍然迷雾重重，众说纷纭，争论不休，但是，作为计算机产业的人工智能已经取得惊人的成就，无论研究还是应用，都呈现蒸蒸日上、突飞猛进、蓬勃发展的局面。智能机器人是人工智能研究的一项重要内容，除此之外，知识表示、自动推理和搜索方法、机器学习和知识获取、知识处理系统、自然语言理解、计算机视觉、自动程序设计等方面，也属于人工智能的研究领域。

所谓“智能机器人”，即“嵌入人工智能以及半自动化或自动化智能控制的机器人”，由效应（执行）器、传感器、计算机和辅助设备等部分组成。这类机器人能在知觉与行为之间建立智能联系，利用指令系统，在事先未知的条件下执行不同的任务，其追求目标是获得最大程度的自主性，力图在没有人类干预的情况下，能够独自开展作业，正确应对环境，满足自身生活的需求。正是在智能机器人这一领域，机器人与人工智能交叠。

因此，机器人伦理学与人工智能伦理学，也是部分交叠。

读+：《导引》一书中提到，“机器人”这个词是由一位捷克剧作家发明出来的；“阿西莫夫三定律”为机器人伦理学奠基，阿西莫夫也是一位科幻作家。这是否意味着，文学在某些时候比科学和哲学走得更远，诸如机器人伦理学这样的新兴科学，可以从文学中获得养分？

尚新建：“机器人”一词确是捷克剧作家卡雷尔·恰佩克发明的，描述名为《罗素姆万能机器人》剧作中的机器人角色，是一个忠诚的人形智能工人，具有情感和创造力。

科幻作家阿西莫夫在其小说《我，机器人》中，第一次提出机器人行为法则，即“阿西莫夫三定律”。三定律不仅是机器人伦理学的基石，也是机器人学的基本原则。

科幻作品作为一种文学形式，允许作家挣脱现实的束缚，充分发挥主观想象力和虚构力，远比科学和哲学的研究更潇洒、更浪漫、更多自由发挥的空间，因此，可以无拘无束畅想科学技术的远景，大胆预言人类社会的未来。不过，一部好的科幻作品，是在尊重科学的基础上合理构想的产物。这不仅要求科幻作家具备良好的科学素养，了解科学的原理和结论，而且还应具有捍卫科学技术的勇气和斗志，怀抱人文主义理想，关注人类社会的命运。阿西莫夫就是这样一位出色的科幻作家，因而才能成为科技领域的先行者，其作品才能达到科学性与通俗性、现代性与历史感、前瞻性与深刻性的统一，对其他学科产生重大影响。

不过，幻想终究是幻想。科幻作品虽然有预见，有启发，终究无法替代严肃的科学和哲学研究的结论。况且，科幻作品某方面的内容获得重视，其价值得以发掘和实现，还必须取决于科学技术发展的实践。只有当机器人（人工智能）的研发成为人类现实生活的一部分，阿西莫夫的机器人三定律才会被人们所重视，其意义才得以彰显。

需要强调的是，机器人伦理学的出现，绝非科幻作品的延伸或推论，而是随着人工智能和机器人技术的发展，现实地涌现出（或潜伏着）许多的伦理风险和挑战，迫切需要我们解决。因此，我们必须脚踏实地，准确而深入地理解当下人工智能（包括机器人）的发展状况，从心理学、社会学、法学、伦理学等多元视角出发，对机器人伦理学进行严肃的理论思考。