犹记 2016 年，我在汉诺威参加德国汉诺威消费电子、信息及通信博览会( CEBIT )时，我发现会上充斥着的那些所谓 “ 智能 ” 的东西并不怎么 “ 智能 ”—— 它们的功能几乎都只是将两个设备链接起来，并且在大多数情况下，仅仅提供单一的用途，用户效益十分有限。

例如：可以远程监控、 “ 开、关 ” 的管道阀门、能够辨别运送司机是否偷运燃料的汽油体积测量装置、通过 wi-fi 控制电源插头。

然而，在 CEBIT 大会上，真正给我留下深刻印象的是IBM展示的一项研究项目 SyNAPSE 。这影响了我对未来人工智能发展的看法。 SyNAPSE 项目旨在开发一种人工智能芯片 “TrueNorth”—— 它能提供相当于蚂蚁大脑的计算能力，同时只消耗 73mM 的能量。不过，这在当时每一个元件需要耗费 100 万美元。

这意味着将人工智能与边缘计算结合起来是可能的。同样，要不了几年 “ 摩尔定律 ” 也将会失效。问题只在于多久能够实现，以及多少其他类似的解决方案会出现在市场上?早在 2016 年， Neuron soundware 已经开始采取物联网战略 —— 在网络边缘运行人工智能算法 —— 并且决定开发自己的具有录音和人工智能处理功能的物联网边缘设备。

几个月后，我根据能量消耗和智能计算之间的关系制作了一张图表。

这显示了智能与能耗的相关性。

● 只有几毫瓦，不可能以合理的价格达到智能;

● 智能手机的能量消耗为几瓦，并且可以为基本的人工智能提供足够的计算能力 —— 每隔一秒左右从图像中识别目标;

● 限制领域人工智能( narrow AI )，比如驾驶汽车的能力，需要消耗几十或几百瓦的电力。

用于分析的摄像机每秒输入 10 次左右，大约需要每秒 4 万亿次浮点运算。

所以，想要用相同的计算性能来驾驶汽车或按顺序分析机器声音从而检测潜在的机械故障。完成这两个工作都需要相当于蚂蚁大脑的计算能力。 IBM 推出的 ultra-low-energy-consuming 芯片，让我看到了实现这种能力的可能。

边缘计算的兴起

从那时起，边缘计算能力一直在提高。

2017 年，为了扩展低性能的计算设备， Movidius 神经计算棒以低于 100 美元的价格，仅需 0.5W 的电量便能进行每秒一千亿次浮点计算。

2018 年，华为推出了麒麟 980 处理器，在 0.1W 的电量下可以完成每秒五千亿次的浮点计算。其他供应商紧随其后。谷歌发布了 Edge TPU Units ，瑞芯微( Rockchip )公布了 RK3399 。这两个约每秒能够处理 3 万亿次浮点计算，成本在 100 美元左右。

2019 年，带有人工智能技术硬件加速器(特别是神经网络)的特定微型计算机得到普遍使用。所有关键的硬件厂商都陆续发布了 AI 软件栈的边缘优化版本，这进一步提高了性能。目前，一般使用的 AI 板有，谷歌的 Edge TPU—— 使用专门的 ASIC 芯片制作而成用以处理 AI 的预测推理功能。价格低于 100 美元的英伟达 Jetson Nano 配备了 128 个英伟达 CUDA 核心。瑞芯微发布的 RK3399 Pro—— 第一个带有神经网络处理器的开发板(其性能甚至略优于英伟达 Jetson Nano )。

物联网技术的大幅提高让我们得以发展 nBox—— 这款边缘计算设备不仅能够借助多达 12 个通道记录高质量音频，并且还可以通过边缘计算实现人工智能。所谓边缘计算，是指大多数处理过程将通过本地设备实现而无需交由云端完成。

随着英特尔( Intel )以约 4 亿美元收购 Movidius ，以及超过 133.8 亿欧元收购自动汽车芯片制造商 Mobileye ，边缘计算的重要性变得显而易见。

特斯拉汽车公司( Tesla Motors )在网上展示了他们为其自动驾驶汽车特意打造的 AI 高性能计算机 —— 每秒能够完成 36 万亿次浮点计算，这足以每秒处理汽车摄像头中 2000 多张高分辨率图像，特斯拉表示这它的性能完全能够实现自动驾驶。

边缘计算四个主要优势

1 、安全：所有处理过的数据都可以存储在本地，并且有严格的控制。

2 、速度：人工智能推理系统能够以毫秒为单位处理输入，这意味着最小的延迟。

3 、效益：嵌入式微型计算机功耗低，价格实惠。

4 、离线：由于人工智能算法部署位置的特殊性，不需要占用太多的网络宽带。

边缘计算相对于5G，优势何在?

也许你会问为什么这么多的硬件厂家如此大费周章?为什么不坐等 5G 网络或者利用丰富的云计算能力和基础设施?以下是一些答案。

● 想象一下，你正坐在一辆自动驾驶汽车里，汽车突然断开了 5G 网络。这时，汽车不仅会 “ 失明 ” ，而且会丧失决策能力。当高带宽和低延迟通信所需的计算能力实际上与一个额外的神经处理单元的成本相同时，为什么要冒这个风险呢?此外，它的总体耗能还会比利用特定硬件实现人工智能预测来的要高。

● 移动互联网提供商希望将投资套现用于开发和部署 5G 网络。尽管在技术上可能实现无限制大容量数据计划，但它们并不会很快投入商业使用。例如， nBox 有 12 个声学传感器，每个月可以产生多达 1 TB 的音频数据。按照 LTE 目前每 GB 的价格，将这么多数据传输到云计算将花费一大笔钱。

● 网络覆盖将主要建立在城市，这意味着其他很多地方接受不到 5G 信号。与此相反，边缘计算设备可以随即部署到任何需要的地方，只需要一次性的成本投入，并且这通常不会显著增加物联网解决方案的成本。

边缘计算与人工智能相结合使得在本地处理大量数据成为可能。硬件加速器的额外成本其实微不足道。另外，神经网络的计算性能正以每年 10 倍左右的速度提高，并且，由于数据可以并行处理，这一趋势似乎没有放缓。

未来 “ 触手可及 ”

边缘计算在自动驾驶汽车、人脸识别、预见性维护等方面的应用只是一个开始。我们很快就会有足够的计算能力来制造出真正独立运行的机器。它们将能够安全地在城市，工厂里运行，甚至像人类一样胜任它们的工作。令人难以置信的是，捷克作家 Karel ? apek 早在一个世纪前就预见了这一点。到 2020 年，其科幻作品中出现的 “ 机器人 ” 一词已经是 100 年前的事情了。

他对 “ 类人机器人 ” 的设想很快传遍了全世界。在这部科幻小说中，机器人拥有自我意识，并且能够获得类似于 “ 爱 ” 的感情。纵观计算机性能提高的速度以及其他物联网的迅猛发展，我认为 Karel ? apek 设想的实现将比我们预期的还要快。