掺和我们生活的人工智能有点儿啥用处，你都get了么？

点击上方关注，All in AI 中国

虽然围绕人工智能（AI）经常有很多炒作，但一旦我们剥除营销的外壳，他会为我们揭示一种正在迅速发展的技术，它已经改变了我们的生活。但要充分了解它的潜力，我们需要先了解它是什么，它不是什么！

定义“智能”是棘手的，但关键属性包括逻辑、推理、概念化、自我意识、学习、情感知识、计划、创造力、抽象思维和解决问题。从这里开始，我们转向自我、感知和存在的思想。因此，人工智能是一种具有上述一种或多种特征的机器。

然而，无论你如何定义，人工智能的核心方面之一就是学习。对于要展示任何智能的机器，它必须能够学习。

当大多数技术公司谈论人工智能时，他们实际上在谈论机器学习（ML），机器学习通常是从过去的经验中学习以改变未来决策结果的能力。斯坦福大学将机器学习定义为“让计算机在没有明确编程的情况下采取行动的科学”。

在这种情况下，过去的经验是现有示例的数据集，可以用作培训平台。这些数据集是多种多样的，具体取决于应用领域。例如，可以向机器学习算法提供关于狗的大量图像，目的是教导机器识别不同的犬种。

同样，未来的决策是指机器在提供数据之前未遇到但与训练集类型相同的数据时给出的答案。使用我们的狗品种示例，该机器具有先前看不见的西班牙猎犬图像，并且算法正确地将狗识别为西班牙猎狗。

训练与推理

机器学习有两个不同的阶段：训练和推理。训练通常需要很长时间，而且需要大量资源。对新数据进行推理相对容易，是计算机视觉、语音识别和语言处理任务背后的基本技术。

深度神经网络（DNN），也称为深度学习，是当今机器学习中最常用的技术。

神经网络

传统上，计算机程序是使用测试条件(if, and, or，等等)的逻辑语句构建的。但是DNN是不同的，它是通过仅利用数据训练神经元网络而构建的。

DNN设计很复杂，但简单地说，网络中的神经元之间有一组权重（数字）。在训练过程开始之前，权重通常设置为随机的小数字。在训练期间，DNN将显示许多输入和输出的示例，每个例子都将有助于将权重细化为更精确的值，最终权重代表了DNN真正学到的东西。

因此，您可以使用网络在给定输入数据的情况下以一定的置信度预测输出数据。

一旦网络被训练，它基本上是一组节点、连接和权重。此时，它是一个静态模型，可以在任何需要的地方使用。

要对现在的静态模型进行推理，需要进行大量的矩阵乘法和点积运算。由于这些是基本的数学运算，它们可以在CPU、GPU或DSP上运行，但功率效率可能会有所不同。

云

今天，大多数DNN训练和推理都发生在云端。例如，在智能手机上使用语音识别时，设备会录制您的语音并将其发送到云端，以便在机器学习服务器上进行处理。一旦发生推理处理，结果就会发送回智能手机。

使用云的优势在于服务提供商可以使用更好的模型更轻松地更新神经网络;而且，深度复杂的模型可以在专用硬件上运行，而且功耗和热量约束较小。

但是，这种方法有几个缺点，包括时间延迟、隐私风险、可靠性以及需要提供足够的服务器来满足需求。

设备推理

有一些论据可以在智能手机本地运行推理，而不是在云端。首先，它节省了网络带宽。随着这些技术变得越来越普遍，对于人工智能任务来说，在云中来回传输的数据会急剧增加。

其次，无论是在电话还是在服务器机房处理，由于手机不再使用移动无线电（Wi-Fi或4G / 5G）发送或接收数据而且服务器不被用来做，因此它可以节省电量。

本地推断可以提供更快的结果。

还存在延迟问题。如果推断是在本地完成的，那么结果将更快地传递。此外，无需将个人数据发送到云端，还有无数的隐私和安全优势。

虽然云模型允许ML进入主流，但ML的真正威力来自于当本地设备可以与云服务器协同工作时获得的分布式智能。

异构计算

由于DNN推理可以在不同类型的处理器（CPU、GPU、DSP等）上运行，因此非常适合真正的异构计算。异构计算的基本要素是可以在不同类型的硬件上执行任务并产生不同的性能和功率效率的想法。

例如，Qualcomm为其顶级和中级处理器提供人工智能引擎（AI Engine）。硬件与Qualcomm Neural Processing SDK和其他软件工具相结合，可以以异构方式运行不同类型的DNN。当使用8位整数（称为INT8网络）构建神经网络时，AI引擎可以在CPU上运行，也可以在DSP上实现更高的能效。但是，如果模型使用16位和32位浮点数（FP16和FP32），那么GPU将更适合。

AI增强智能手机体验的可能性是无限的。

AI引擎的软件方面是不可知的，因为Qualcomm的工具支持所有流行的框架，如Tensorflow和Caffe2，交换格式，如ONNX，以及Android Oreo的内置神经网络API。最重要的是，有一个专门的库用于在Hexagon DSP上运行DNN。该库利用了顶级和中级Snapdragon处理器中的Hexagon Vector eXtensions（HVX）。

人工智能增强智能手机和智能家居体验的可能性几乎是无限的。改善了视觉智能、音频智能，并且最重要的是，改善了隐私，因为所有这些视觉和音频数据都保持在本地。