摘要：界面新闻：深度学习是模拟人类的大脑进行运算和学习，如果我们更加了解大脑，深度学习和人工智能会有怎样的发展。界面新闻：人工智能未来会对人类造成威胁吗。

【专访】谢诺夫斯基：只有技术才能对抗技术，关于AI的所有幻想、忧虑和现实|未来已来①

人工智能能否拥有意识将在30年内见分晓；只要人类加以监管，人工智能不会对人类造成威胁；人工智能和人类智能将会是相互促进的关系。

周静ZJ

（“未来已来”是界面新近策划的高端系列访谈，访谈的专家来自人工智能、区块链、基因技术等将在未来对社会带来巨大冲击的领域）。

当AlphaGo在2016年毫无争议地击败了世界上最好的围棋手李世石时，人们蓦然发现人工智能技术已是如此强大。在接下来的短短三年里，人工智能技术快速进入商业化场景，改变着人们的生活，比如我们可以使用应用程序进行语言实时翻译、使用人脸识别核对身份信息、使用机器人客服解答各种问题以及使用人工智能技术在医疗、法律、金融等领域为人们提供更加高效、便利的服务。在未来，自动驾驶、个性化教育、社交机器人等也将成为现实。这一切都得益于“深度学习”的快速发展。“深度学习”是机器学习的一个领域，其形式是模拟人类大脑的神经网络进行计算和学习。

关于人工智能的忧虑和未来，界面新闻采访了“深度学习”领域的专家特伦斯·谢诺夫斯基（Terrence Sejnowski）。特伦斯·谢诺夫斯基是世界十大人工智能科学家之一，美国四大国家学院（国家科学院、国家医学院、国家工程院、国家艺术与科学学院）在世仅3位的“四院院士”之一，全球AI专业会议NIPS基金会主席。

早在1986年，特伦斯·谢诺夫斯基就与今年的图灵奖得主之一杰弗里·辛顿共同发明了玻尔兹曼机，把神经网络带入到研究与应用的热潮，将深度学习从边缘课题变成了互联网科技公司仰赖的核心技术，实现了人工智能井喷式的发展。特伦斯·谢诺夫斯基著有《深度学习：智能时代的核心驱动力量》一书，该书通过3个部分全景展现了深度学习的发展、演变与应用，作者首次以亲历者视角回溯了深度学习浪潮在过去60年间的发展脉络与人工智能的螺旋上升，并前瞻性地预测了智能时代的商业图景。该书被翻译成多国语言，风靡全球，中文版已由中信出版集团出版发行。

特伦斯·谢诺夫斯基在接受界面新闻记者采访时表示，人工智能造成的工作变动社会自会解决；其在未来能否拥有意识将在30年内见分晓；只要人类加以监管，人工智能不会对人类造成威胁；人工智能和人类智能将会是相互促进的关系。

以下为采访全文：

界面新闻：人工智能在语言翻译、影像识别等领域已经可以做得比普通人好了，何时能做到比此领域的专家还要好？未来能否代替人类所有的工作？

特伦斯·谢诺夫斯基：在围棋方面，人工智能已经超越了人类最好的棋手。其他方面还有待提高。据我所知，有些专业翻译家先用人工智能做基础工作，然后再进行优化，人工智能能帮助专家更有效率的工作。但如果翻译一篇诗歌，人工智能现在没法像专家做得那么好。至于何时能超越专家的水平，很难预测。在最初研究语言翻译时，准确率并不高，后来通过技术的提高，翻译水平已经足够只想了解文章大意的人用了。技术的发展总是这样，水平会随着应用越来越广泛而逐渐提高。人工智能的发展也是一样，随着应用的普及，未来也许能做得比专家更好。

至于未来能否代替人类所有的工作，我想强调的是，如果有人说不可能，请谨慎对待。目前人工智能的应用还是基于30年前完成的基础研究。30年后的应用将取决于当前正在进行的基础研究，最优秀和最聪明的学生现在都进入了机器学习领域。没有人可以预测未来，现在看起来不可能的事情，说不定下一代的年轻人就能够解决。未来没有极限，有些发明很难或者需要很长一段时间，但最终总会被发明出来。现在的技术每三十年都有一个大的突破，在思考人工智能的未来时，我们需要保持目光长远，因为我们远没有具备达到人类智能水平所需的计算能力。

界面新闻：人工智能确实给人们的生活带来了诸多便利，但是也有很多人担心人工智能将带来的社会问题，比如就业问题。您怎么看？

特伦斯·谢诺夫斯基：我认为不要担心人工智能会接管人类的工作，就像工业革命时期蒸汽机放大了物理能力一样，人工智能会放大认知能力，会让人类更聪明，实现更高的成就。

首先，很多情况下，人工智能和人类是合作而不是竞争。比如在医学诊断方面，有很多研究表明，人工智能和医生诊断相结合要比单独只用其中一个的结果更准确；诊疗过程中，人工智能作为辅助工具，可帮助医生做记录信息、查找资料等繁琐的杂事，医生就可以花更多的时间向患者了解病情，患者会得到更好的服务和治疗。医生和患者都会受惠于人工智能的帮助。

其次，从历史上看，工作变动并不新鲜。蒸汽机代替了体力劳动者，但同时为能够建造和维护蒸汽机及驱动蒸汽机的熟练工人提供了新的就业机会；因特网发展过程中也让一些人失业，但同时带来了大量之前无法想象的工作机会，像谷歌、亚马逊这样的公司几十年前并不存在，现在却创造了在线营销、网页设计师、网络架构师等新的工作。

人工智能也一样，会创造之前不存在的工作机会。就拿自动驾驶来说，卡车大概会在10年内率先实现自动驾驶，出租车需要15年，客运无人车需要15到25年，将会影响数百万司机的生计，但是在实现自动驾驶的过程中，会创造出建造测试自动驾驶汽车的设施、生产汽车导航的传感器和激光器的新供应链等很多以前并不存在的工作机会。再比如现在很多创业公司在制造机器学习芯片，这样的工作机会以前也并不存在。

未来还会出现更多新的工作机会，只是现在很难做出准确预测。一项新发明到底能有哪些用途，其发明人也不见得能预测到。IBM总裁托马斯·沃森1943年曾说过一句话：“我觉得全世界也许能卖出5台计算机。”，然而现在电脑对我们生活的影响有多大大家都知道。现在有很多关于人工智能应用场景的预测，但即使科幻小说作家也不大可能猜出最终影响。

我相信人类社会自会解决人工智能带来的工作变动，而且人类文明会更加繁荣。

界面新闻：如何解决人工智能带来的安全问题？人工智能带来了巨大的便利，但是同时带来了巨大的风险。比如人脸识别应用越来越广泛，有报道称可以用一张图片成功绕过人脸识别系统。

特伦斯·谢诺夫斯基：确实存在这样的可能性，但是这种攻击很难做到。就像黑客攻击电脑，普通人没有这样的能力，有资源、有技术的专家有可能做到，所以人们会在电脑上安装安全程序来保护电脑不受攻击。人工智能也将会有相应的程序来保护不受外界攻击，解决这种安全问题只能用技术来对抗技术。这也是技术发展中通用的准测，有人发明了导弹，就有人发明防御导弹的技术，技术就是如此不断地进步。人工智能技术跟以前的技术发展没有两样，绝大多数被应用在好的方面，极少数被应用在坏的方面，人们需要做的是在好坏之间做好监管，让其应用在坏的方面时越来越难，

每一项新技术也常会带来预料不到的后果。因特网在上个世纪90年代进入公众的生活，那时没人预料到会有什么样的负面影响，结果它带来了诸如假新闻传播、沉迷网络、隐私泄露等问题。每一项技术都可以有好的应用或者坏的应用，怎么使用取决于监管。对于沉迷于网络的人，可以限定其每天使用网络的时间；对于滥用用户隐私的公司，可以限定他们使用用户数据的权限……对于人工智能的应用，也应该有规范和监管。比如，2015年，3722位人工智能研究人员共同签署了一封公开信，呼吁通过法令禁止超出人类合理控制范围的自动攻击性武器，尽管全面的禁令未必能达到预想的效果。

界面新闻：当人工智能应用越来越广泛，对人们的生活影响力越来越大，我们格外需要了解人工智能是如何做出决定的。如果人工智能只是用于下围棋，知道不知道AlphaGo如何决定下一步怎么走也许并不重要，但是如果利用人工智能来决定重大事项，比如医疗诊断、贷款申请，了解其是如何做出决定的就非常重要，不然人们有理由不信任它。未来该如何提高人工智能的可解释性？

特伦斯·谢诺夫斯基：现在关于这个话题有很多讨论和研究，但是我想说，提高人工智能的可解释性需要视情况而定。比如，人类的大脑做出了一个决定，有时候你并不需要知道大脑是怎么做出的，那为什么一定要知道人工智能的决定是怎么做出的呢？但在有些情况下确实需要增强人工智能的可解释性。科研工作者正在努力解决这个问题，一些非常优秀的数学家正在尝试用数学的方式来解释深度学习，同样的方式也可以帮助了解大脑是如何运行的，我的下一本书里可能涵盖这些内容。

很多人担心的人工智能存在偏倚。我们可以通过平衡输入的数据，来减少输出结果的偏倚。例如，有公司提供基于面部识别的犯罪分子识别系统，黑人误判比白人误判要多，因为用于训练的数据库里白人面孔更多，数据越多，准确率就越高。这样的偏倚可以通过纠正数据库偏差来解决。

也有人担心使用人工智能时，人们会以公平为代价来优化利润。例如，在利用人工智能技术处理住房贷款申请时，少数群体会被系统拒绝。这里的问题不在于系统，而在于我们需要将公平性作为算法考虑的一个因素，在公平和利润之间找到平衡，保护未被充分代表的少数群体的利益。人文和社科领域的伦理观点应该为这些权衡提供指导。

界面新闻：人工智能未来会对人类造成威胁吗？

特伦斯·谢诺夫斯基：如果人类对人工智能加以监管，就不会发生。核武器的发明曾经是一种毁灭全世界的威胁，但至少目前为止，我们有能力阻止这种情况的发生。重组DNA技术问世的时候，人们担心人工改造的致命生物会带来难以估量的痛苦和死亡，但基因工程现在已经是一项成熟的技术，我们能和它的产物共存。我们也将适应人工智能带来的变化，并与之共存。

界面新闻：深度学习是模拟人类的大脑进行运算和学习，如果我们更加了解大脑，深度学习和人工智能会有怎样的发展？

特伦斯·谢诺夫斯基：我们对大脑的了解还很有限，还在探索了解的过程中，尚未找到像DNA解释生命本质那样的概念框架来解释大脑如何运转。利用人工智能技术，可以更好的研究大脑。也许，我们在理解深度学习如何解决实际问题方面的进展时，会找到研究大脑的新线索，从而解开大脑运转和进化的奥秘，破解智能难题。

当我们更加了解大脑后，可以在人工智能上模拟大脑的运转和进化能力，从而有更好的人工智能技术。

界面新闻：您以为人工智能和人类智能最后的区别只是是否拥有精神和意识吗？

特伦斯·谢诺夫斯基：人工智能在不断的进化，会越来越复杂，有时进化的变化不可预知，人工智能能否拥有意识我想30年内会有答案。创造意识要比理解意识更容易。那时，我们将有和我们互动的机器，就像现在和他人互动一样。

界面新闻：人工智能和人类智能将会是怎样的关系？

特伦斯·谢诺夫斯基：会相互促进彼此的进化。自20世纪30年代首次测试智力以来，全人类平均的IQ分数每10年会上升三个点，这个趋势被称为“弗林效应”。环境会影响基因调控，从而影响大脑内在的连接。随着人类越来越多地生活在人造环境中，大脑正在以某种超越自然进化轨道的方式被塑造。当国际象棋和围棋的计算机程序达到冠军级别后，玩这些游戏的人数一直在增加，机器也提高了人类玩家的智能。不仅是游戏，从艺术到科学，人工智能都会让人类智能更聪明。当人类更加聪明，也会反过来帮助人工智能进化得更快。

自然界存在着各种形式的智能，从微小的细菌到复杂的人类智能，人工智能也将以各种形式出现，并将在智能图谱中占据特殊位置。人工智能在未来有可能为生物智能提供一个新的概念框架。

（本文来自于界面）