关于自动化系统、自动系统、自主系统、人工智能系统，你是不是有很多疑问？谷歌汽车、扫地机器人是自主系统吗？IBM Watson和Siri是人工智能系统吗？美国空军研究实验室（AFRL）在2019年3月由美空军首席科学家办公室发布的《自主地平线：前进之路》中回答了许多有关自主系统的常见问题（FAQ）。其目标是在探讨自主性方面建立一致的理解，促进对自动、自动化、自主及人工智能等基本概念的探讨。本文编译了关于自主系统基本概念的FAQ以及读者在生活中常见的系统与自主性关系的FAQ，供读者参考。

1

关于自主系统等基本问题的FAQ

（1）什么是自主系统（AS）？

AFRL根据三个维度，即熟练性、可信赖性和灵活性对自主系统进行定义：

自主系统的设计应该在给定的环境、任务和队友的情况下保证其在操作过程中的熟练性。需要达成的熟练属性包括情境代理、适应性认知、多智能体出现和体验式学习。

自主系统的设计应该确保由人类操作或与之协作时对其有信任感。所期望的信任原则包括认知一致性和透明性、态势感知、有效的人－系统一体化以及人－系统组队/训练。

自主系统应该在其行为、团队合作和决策方面表现出灵活性。所期望的灵活性原则包括在能够执行不同任务、在不同对等（peer-to-peer）关系下工作以及采用不同的认知方法来解决问题方面的灵活性。

AFRL认为，若要想在空军中有效地现场部署和使用自主系统，就必须在某种程度上满足所有这些维度的要求。换句话说，未能满足所有三个维度的设计将导致自主系统部署的失败：低熟练性将导致用户改用其他系统，低信任度将导致自主系统被闲置不用，而低灵活性将导致自主系统在设计阶段未曾想到的情况下，无法展现出真正的自主性。

（2）什么是智能（intelligence）？什么是人工智能（AI）？

智能是一种收集所观察的信息、创造知识并适当地应用该知识来完成任务的能力。人工智能是拥有智能的机器。

（3）自主系统的内在表征是什么？

当前的自主系统通过被编程来使用不同的程序完成任务。自主系统的内在表征是智能体（agent）如何构造其对世界的了解，其知识（自主系统用于观察和产生意义的知识）、智能体如何构造其意义及其理解，例如，在自主系统内部用于其知识库的编程模型。随着自主系统获取更多知识或自主系统进一步操纵现有知识以创建新知识，知识库可能会发生变化。

（4）什么是意义（meaning）？机器会产生意义吗？

意义是由于某种刺激导致人或自主系统的内在表征发生的变化。这就是该刺激对那个人或系统产生的意义。当您（人类）看着一面美国国旗时，它唤起您的思想和情感的顺序，就是那一刻您的体验对您的意义。当向某个自主系统显示国旗的图像时，如果像素强度在该自主系统的软件中引起一些程序化的变化，则这就是那面旗帜对该自主系统的意义。在这里，可以看到自主系统产生意义的方式与人类的方式完全不同。自主系统的内在表征由于其编程方式而发生的变化，就是自主系统的意义。

刺激的意义是通过该刺激在智能体（人类或自主系统）中所引起的特定于智能体的表征变化。由数据引起的表征更新是该刺激对该智能体的意义。意义不只是由数据引起的表征变化，而是对表征造成的所有变化。例如，由于刺激而唤起隐性知识，或对正在进行的模拟（意识）的修改，或者甚至是对智能体知识的更新，都属于某一刺激对某一智能体的意义。意义不是一成不变的，而是会随着时间发生变化。根据智能体受到刺激的时间不同，该刺激对于给定智能体的意义也不同。

（5）什么是理解（understanding）？机器会理解吗？

当自主系统对刺激产生的意义使其能够完成某个任务，理解就产生了。

（6）什么是知识（knowledge）？

知识是用来为给定智能体产生刺激意义的东西。从历史上看，知识来自物种的捕获和编码，物种通过遗传学的进化、单个动物的经验或动物（通过文化）将知识传播给同一物种其他成员来捕获和编码知识。随着机器学习的进步，一个合理的论调是，将来在世界上产生的大多数知识将由机器完成。

（7）什么是思考（thinking）？机器会思考吗？

思考是操纵自主系统内在表征的过程及意义的产生，而意义是由刺激引起的内在表征变化。如果自主系统可以更改或操纵其内在表征，则可以进行思考。

（8）什么是推理（reasoning）？机器会推理吗？

推理是在某个任务所处的场景中进行思考。推理是思考所感知的是什么以及完成任务需要采取什么行动的能力。如果系统更新其内在表征，则当思考与完成某个任务相关联时，它将产生意义并进行推理。如果系统的方法没有产生所需的“意义”以令人满意地完成任务，则说明推理不正确。

（9）什么是认知（cognition）？是什么使系统具有认知能力？

认知是通过思考、经验和感官创造知识和理解的过程。能够通过思考、经验和感知来创造知识和理解的系统就是具有认知能力的系统。例如，认知电子战（CEW）系统通过感知来收集数据并创造知识。它使用相关知识来完成其电子战任务，这表明系统对其任务的理解水平。

（10）什么是情境（situation）？

情境是自主系统内在表征中各个知识条目的链接。情境是认知的基本单位。情境通过它们与其他情境的关系以及如何与其他情境交互来定义。情境应作为一个整体来理解。

（11）什么是情境认知（situated cognition）？

情境认知是一种理论，它通过主张所有知识都处于与社会、文化和物理环境相关联的活动中，从而假设知识与行为是不可分割的。这就是所谓的看/想/做范式。

（12）什么是学习（learning ）？什么是深度学习（deep learning ）？

学习是通过经验、感知和思考来适应知识、理解和技能从而适应变化的认知过程。根据智能体所使用的认知方法（其表征的选择，例如，符号、联结主义等），学习是智能体使用该表征对模型进行编码（对于联结主义方法，符号智能体中的规则或人工神经元的连接方式及其权重的调整）。

一旦模型被编码，就可以用于推理。深度学习是结合了许多神经元处理层的联结主义方法子集，其学习范式已克服了与多层“信用分配”问题（即应调整权重以改善性能）相关的局限性，利用大数据和多个实例进行训练，并且在计算基础设施方面取得了进步。近年来，深度学习因其处理图像和语音数据的能力而备受关注；当前计算机的处理能力、可用数据的急剧增加以及对学习方法的适度修改，在很大程度上使深度学习成为可能。深度学习基本上是一种非常成功的大数据分析方法。

2

实际生活中的案例FAQ

（1）车库门开启器是自动化（automated）系统还是自动（automatic）系统？

收到信号时，车库门开启器会打开车库门，并会根据某些预设条件（电动机转数或通过开关）停止。车库门开启器是一种自动（automatic）系统，因为它基于某种触发机制执行一个简单的任务，并基于某种触发机制在任务完成时停止。

（2）自动目标识别系统是自动化系统还是自动系统？

当前用于目标识别的方法是在一组假定作战条件下针对已知目标进行识别，能够辨别并拒绝与目标相似的对象，从而实现一定程度的鲁棒性。因此，它们是自动化的（automated）解决方案。

（3）地面防撞系统（GCAS）是否属于自主系统（autonomous system）？

如果担心飞行员会导致飞机与地面相撞，地面防撞系统将控制飞机。此时，系统将剥夺飞行员的指挥控制（C2）权，以防止飞机与地面碰撞。在这之后，飞行员可以重新获得指挥控制权（地面防撞系统明确放弃控制权或飞行员将其收回）。地面防撞系统表现出对等灵活（peer flexibility）性，因此解决了自主系统的某些关键挑战。但是，在上述场景中，系统没有表现出任务或认知灵活性（task or cognitive flexibility）。

一些人认为，由于地面防撞系统缺乏认知灵活性，因此它仅仅是一个自动化系统（automated system）。

（4）自动驾驶系统是否属于自主系统？

自动驾驶系统的任务是以飞行员设定的特定速度和特定高度（或高度剖面）在某个特定轨迹上飞行。自动驾驶仪不会改变其任务或与飞行员的对等关系（peer relationship），也不会改变其控制飞机的方式。因此，它不满足自主系统三个灵活性原则中的任何一个原则。但是，自动驾驶系统确实可以反射性地适应影响其航向、飞行速度和高度的变化条件，以维持为其提供的参数。因此，它是一个自动化系统（automated system）。

（5）自适应巡航控制系统是否属于自主系统？

巡航控制系统的目的是为了保持一个恒定速度。自适应巡航控制系统也可以保持其速度，但无需驾驶员的许可即可通过改变速度来适应前方车辆的变化，以与前方车辆保持安全距离。如果需要，它也可能会刹车。自适应巡航控制系统是自动化系统（automated system），因为它永远不会改变其对等关系，永远不会改变其任务，而仅以预编程方式完成其任务，并且不具备认知灵活性。

（6）空空导弹是否属于自主系统？

空空导弹，甚至是巡航导弹，与发射导弹的人类有着固定的对等关系。导弹是执行预先定义的任务，并以预先编程的方式执行。没有显示出灵活性的三个原则，因此它不属于自主系统。虽然该系统非常出色，能够完成非常复杂的任务，但是它仅仅是自动化系统（automated system）。

注：灵活性三原则是指：任务灵活性、对等灵活性和认知灵活性。

（7）谷歌汽车和具有自动驾驶功能的特斯拉属于自主系统吗？

谷歌汽车可以按照指示行驶到某个位置，但是也可以将其任务从驾驶更改为紧急刹车，例如避免撞上行人。当特斯拉自动驾驶仪将驾驶员锁在外面并由于驾驶员将手从方向盘上移开而不允许驾驶员参与时，或者当大众自动驾驶汽车接管控制权并刹车以防止正面碰撞时，我们会看到对等灵活性，如前文所述的地面防撞系统一样。但这并不属于自主系统。

（8）Roomba扫地机器人是否属于自主系统？

Roomba扫地机器人是一种受欢迎的家用商品，可作为房主的地毯吸尘器。它功能强大，并且新版本结合了现代机器人技术，能够在了解其环境的同时确定其当前位置。Roomba扫地机器人的唯一任务是吸尘。它没有能力改变其对等关系，也不会更改其完成任务的模型。因此，Roomba扫地机器人并不属于自主系统，而是一个功能强大且实用的自动化系统。

（9）IBM的Watson智能吗？Watson是否属于人工智能？

Watson具有通过人工编程以及在海量数据中应用这些编程而收集和生成的知识。它能够有效地存储和检索潜在的相关知识，以便可以响应查询。有人可能会争辩说，当允许Watson使用其程序来搜索和适当索引大型数据库时，它便在收集信息，以供以后适当地使用。在进行搜索时，它使用整体学习方法，这意味着它会改变其模型，从而可以提供更好的结果，这是认知灵活性的一个方面。因此，Watson正在解决自主系统的一个关键挑战。但是，我们不认为它属于自主系统。然而，Watson是显示出智能的硬件和软件的组合，因此它属于人工智能。

（10）Siri智能吗？Siri是否属于人工智能？

Siri收集的用于响应询问的信息是通过编程完成的。它确实会根据询问来收集数据，并且通常会适当地利用该知识来更好地回答问题，这是一种很好的自动化方法。由于Siri是硬件和软件的组合，并且显示出智能，因此我们认为Siri是人工智能。

（11）Siri理解我所问的问题吗？

对于所有人工智能系统，用户必须意识到系统产生的意义并不是“人类的意义”，因此必须审慎使用。例如，人工智能可能高度自信地将校车称为鸵鸟，任何人都无法理解人工智能是如何导致该错误的。

原因是，对于人工智能而言，意义是通过处理像素强度和颜色而确定的矢量空间中的位置。对人工智能来说，鸵鸟只是一种对象类别，不具有人类意义中通过联想产生的丰富意义。

（12）阿尔法狗（AlphaGo）是否理解围棋游戏？

AlphaGo 对围棋的理解只能从另一个智能体的角度进行评估。非围棋玩家可能会说AlphaGo理解围棋，因为AlphaGo对下围棋这个任务的完成情况是可接受的。但是，如果将“理解围棋”定义为“自主系统内在产生了围棋是什么的意义”，那么，AlphaGo是不理解围棋的。AlphaGo是一个自动化系统（automated system），由于它使用知识来生成它的棋盘状态的意义并促进它完成下围棋这个任务。

多个系统的属性映射表

相关文章