如果你是《终结者》系列电影的粉丝，那么你就已经看到了一个可怕的虚构场景：一个恶梦般的反乌托邦战场，机器配备了人工智能，可以不受限制地杀死人类。

机器人杀手离我们不远了~（网络图）

电影《终结者》中的骷髅头（上图）。人工智能（AI）技术的扩散正在引起全球科学界的关注。

虽然全自动武器——机器人杀手的技术术语——还不太现实，但机器人技术和人工智能的快速发展让军队的幽灵在不久的将来令坦克和飞机能够在无人控制的情况下攻击

根据美国新安全中心 2017年的一份报告，超过30个国家拥有或正在研制武装无人机。俄罗斯新闻机构塔斯社（TASS）也在2017年报告了该国开发的自动化“战斗模块”——一个机器人坦克——能够利用人工智能识别目标并作出决定。虽然美国目前的政策规定完全自主武器，但五角大楼正在研制空中和地面机器人，它们将在250个或更多的群中运行，执行监视和其他功能来支持人类军队。根据《南华早报》的报道，中国正在研制配备人工智能的潜艇，这将有助于指挥官做出战术决策。

未来正在迅速逼近。

快速的自动化战争是令人担忧，在全球范围内，在技术有机会扩散之前，有越来越多的举动阻止自主武器的发展。接近4000人工智能和机器人技术研究人员和科学家在其他领域——包括太空探索技术公司（SpaceX）和特斯拉创始人埃隆·马斯克（Elon Musk）,苹果联合创始人斯蒂夫·盖瑞·沃兹尼亚克和已故的天体物理学家斯蒂芬·霍金——签署了一封公开信,敦促禁止“超出人类控制能力的进攻性自主武器。”一些组织，比如阻止机器人杀手的运动，越来越强烈地表达了对此类技术的限制。

澳大利亚新南威尔士大学人工智能的科学家托比•沃尔什（Toby Walsh）警告说:“离我们只有几年的时间了。”“原型存在于战争的各个领域——空中、地面、海洋和海底。”

沃尔什在几年前就参与了这一努力，当时他很明显地意识到，“发展这种武器的军备竞赛开始了，我们有机会阻止好莱坞经常描绘的反乌托邦式的未来。”

沃尔什和其他人工智能研究人员最近利用他们在该领域的杰出表现来施加压力。韩国科学技术院（KAIST），一所韩国研究型的大学，成立了一个致力于人工智能和国防融合的新中心，他们写了一封公开信给KAIST主席Sung-Chul Shin，威胁抵制中心提供保证，除非他不会开发缺乏有意图的人类控制的全自动武器。（据《泰晤士报高等教育》报道，Sung-Chul Shin后来发表了一份声明，申明大学不会发展这种武器）。

联合国倡议

反机器人杀手举动也密切关注日内瓦的事态发展，各国代表于2018年4月齐聚日内瓦，参加联合国关于如何处理自主武器问题的会议。

英国的军备控制组织第36条的执行董事理查德·莫耶斯（Richard Moyes）说，自动武器可能会侵蚀控制战争的法律框架，而这取决于人类在特定情况下是否合法使用武力。“如果机器获得了广泛的许可进行攻击，那么那些人类的法律评估将不再基于对地面环境的真正理解，”莫耶斯写道，他是2017年诺贝尔和平奖的得主，因为他致力于削减核武器。“这为真正非人道化的冲突开辟了道路。”

美国大概会支持机器人杀手的禁令。2012年，奥巴马政（zf）府发布了一项指令——特朗普政（zf）府显然选择继续——要求自主武器技术的设计“允许指挥官和操作员对使用武力进行适当程度的人类判断。”该指令还要求保障措施，以防止自主武器故障，并自行发动攻击。美国国防高级研究计划局（DARPA）主任史蒂文·沃克（史蒂文·沃克）在3月份说，他怀疑美国是否会允许机器做出使用致命武力的决定。

美国国防高级研究计划局（DARPA）发言人贾里德·亚当斯（Jared Adams）说，该机构的研究重点是“研究如何确保技术提高人类操作员在关键时刻做出快速决策的能力，而不是削弱这种能力。”有一种担心是，人类操作员对自动化的依赖会降低他们的态势感知，当他们需要调用它时——亚当斯说，这是2009年法国航空公司447航班坠毁事件的例证。“出于这个原因，美国国防高级研究计划局（DARPA）与自主相关的研究试图在各种操作模式之间找到一个最佳平衡点，重点是为作战人员提供最大的决策支持，”他说。

没有国际共识

但在国际上取缔机器人杀手可能会很困难。哈佛大学法学院国际人权诊所人权观察高级武器研究员兼武装冲突和民间保护副主任邦尼·多彻蒂（Bonnie Docherty）说，尽管联合国会议上的大多数国家都在关注自主武器，但还没有达成一致的法律约束力的国际禁令。

禁止机器人杀手工作吗？例如，一项长期禁止化学武器的国际条约显然没有停止在叙利亚内战中使用这种武器。

尽管如此，多彻蒂认为，禁止化学武器、杀伤人员地雷和集束弹药仍然挽救了许多生命。“这样的法律约束着那些加入他们的国家，并且通过指责问题武器可以影响到甚至没有政党的国家。任何法律——即使是针对一种被广泛接受的犯罪，如谋杀——都可能被一个流氓行动者侵犯，但这并不意味着不应该采用这些法律。法律仍然对行为有重大影响，应该采用新的国际条约来抢占完全自主的武器。”多彻蒂写道。