盲目的乐观可能是最致命的大规模杀伤性武器。

——皮埃罗·斯加鲁菲

雷·库兹韦尔的系列著作让“奇点”的概念得以普及，并引爆了这一轮人工智能的热潮。奇点理论认为，我们即将迎来机器时代：机器的智能程度远远超过人类，以至于人类既无法控制机器，也无法理解它们的想法。

面对奇点论的未来预言，人们分成了两派：乐观的憧憬与悲观的恐慌。而本文所关注的则是，我们如何从奇点宗教预言式的理论回归到人工智能技术的现实中来。

奇点论正在成为人工智能时代的新宗教吗

奇点论的信众与当今世界三大宗教的相似之处非常明显，却被很多人所忽视。根据奇点论的预言，世界末日将以奇点的形式到来，不过，不用担心，我们都将通过意识上传复活，奇点论中所称的超级计算机将使之成为可能。

那些赞成奇点理论的论调和(非常微弱的)论证的确很容易让我们想起宗教预言，只不过这一次来拯救人类的弥赛亚不再是受外在神圣力量差遣而来的，而是我们自己制造的产品。所以，从某种意义上说，这是一门信仰人类自己创造的神的宗教。

奇点理论的魅力之处在于它用倒叙法讲述了宗教的历史。传统意义上的宗教会力图从源头上解释神秘的宇宙复杂性，生命的奇迹，以及意识产生的目的。甚至当今一些非常杰出的科学家也赞成“神创论者”的观点，相信世界是由超人类智慧创造出来的。这种理论通常被称为智能设计(intelligent design)，但其更合适的叫法应该是超智能设计(super-intelligent design)，因为智能(intelligent)一词仅仅指人类智能。宗教的重点恰恰在于相信人类智能永远无法制造的东西存在，它会设想人类能够发现的所有自然法则都不足已解释宇宙、生命、以及灵魂所蕴含的奥秘。任何可以借由数学规律解释的事物，人都能完成，因此也不需要超自然力量的存在。相反，上帝是一种先于人类智能产生、并创造人类智能的奇点，而且无限优于人类智能。

幸运的是，这个至高的神有能力，同时也愿意给予我们永生的机会。通常意义上，这种永生就是信徒最终希望从其信仰中得到的东西。而目前奇点论所提出的假设——由于超智能机器的发展即将出现奇点——几乎就是这个故事的翻版。过去的奇点(神)被用来解释那些令人费解的问题，而新的奇点(智能机器)却无法解释。人类智能既无法理解过去上帝在创造人类智能时的方式，也无法理解将来人类智能创造超智能机器的方式。

计算机的运算速度会影响人类的智能水平吗

奇点论过于乐观的预测建立在计算机运算速度的指数增长以及体积的不断缩小的基础之上。 1965年戈登·摩尔(Gordon Moore)预测，计算机的处理能力将每18个月提高一倍(“摩尔定律”)，到目前为止，他的预测不断得到事实的验证。今天，智能手机的魅力并不在于它们可以完成20世纪60年代电脑不能完成的事情(后者几乎可以做同样的事情)，而在于它们体积小、价格便宜、速度快。只花很少的钱就可以下载手机应用，意味着更多的人可以使用手机应用。这会带来巨大的社会效应;但它并不意味着软件技术已实现概念性的突破。很难说现存的哪个软件程序是五十年前Fortran语言无法编写的。如果当时没有编写这一程序，其原因可能是成本过于高昂或者一些所需的硬件尚未问世。

诚然，目前计算机的发展的确很快，速度更快、体积更小、价格也更加亲民。即便假定这种趋势会继续“以指数速度发展下去”(正如奇点专家们即将宣称的那样)，就理所当然地认为这种(硬件)进步能够支撑机器智能领域产生令人震惊的差异，无疑是基于一种非直接的假设：计算机在速度、体积、价格上的巨大进步将首先影响人类水平的智能，然后才是更高水平的智能。毕竟，假如你将很多很多很多的愚笨的神经元组合在一起，也许可能会得到像爱因斯坦那样聪明的大脑。如果将上百万块的超高速GPU组合放到一块，也可能获得超人类智能。但这只是可能。

无论在何种情况下，我们都最好为摩尔定律可能失效的那一天做好充足的准备。虽然摩尔定律被公认在可预见的未来还会继续发挥作用，但它看起来并非前途无量。这不仅仅因为即将遇到技术瓶颈。摩尔定律背后的本意是要表明晶体管设备的制造“成本”将持续下降。即使这个领域找到了一种可以继续在芯片上蚀刻数量翻倍的晶体管的方法，这种方法的成本也会很快开始增长：毕竟处理微晶体管的技术本身就造价不菲，更何况散热也已成为超密集电路上亟待解决的主要问题。2016年，英特尔的威廉·霍尔特(William Holt)宣布英特尔将不再生产超越7纳米技术的芯片产品，并警告说将来为了节约能源，降低热量(即成本)，处理器可能会变得更慢。如果摩尔定律不再有效，那么“暴力型人工智能”---例如深度学习---还会不会继续发展?

从某种意义上说，今天的奇点预言家们认为机器“智能”是一个永远保持加速发展且不会变缓的学科。

同样，我认为除了小型化以外， 机器的“智能”并没有什么长进(它们的智能与阿兰·图灵发明的“通用机”的智能毫无二致)。摩尔定律(它的确保持了指数发展的态势)与机器智能没有任何关系，它仅仅表示了人类究竟能在一块微小的集成电路上“挤进”多少个晶体管。真正发生改变的就是今天人们以低廉的成本将异常强大的计算机做成手掌大小的智能手机，也就是所谓的小型化。而将小型化等同于智能就好像将改进的钱包等同于财富。

人类变成机器，还是机器变成人类

目前，我们最应该担心的不是机器智能的迅速提高，而是人的智力可能会下降。

通常我们对图灵测试的解读为：什么时候我们可以说机器已经和人类一样聪明?但是图灵测试还有另外一面，即人类智能，换句话说，机器还有另一种方式通过图灵测试：让人类变笨。我们把图灵点看作机器和人类一样聪明的点。机器智能提高到人类的水平或者人类智能下降到机器的水平，都可以到达图灵点。

人类总是非常依赖他们发明的工具。例如，当他们发明了文字，人类的记忆力下降。另一方面，他们收获了一种存储更多知识和更快传播知识的方法。人类历史上的所有其他发明都不例外：使人类丢掉一种技能，同时也让人类get一个新技能。整个人类社会都在经历“变笨”的过程，电器与现在的数字设备极大地加快了这一过程。从某种意义上说，技术递给笨人工具，让他们变得更笨，但仍然可以幸福地生活。

在数字时代，普通人只需动动手指，就可以获取各种知识。原来知识的来源是特定领域的“聪明”人。现在，即使不是该领域的专家，也能轻松运用知识。因此，用户缺乏深入学习知识的动力，他可以 “借用”别人的“聪明才智” 。用户“智能”不升反降(当然，操作设备的才干除外，但是，设备越来越易用，到最后用户只要会按下开机键就万事大吉)。不可避免的，人类对机器的依赖性越来越高，而机器对人类的依赖性恰好相反。

我经常主持/组织湾区的会议，投影仪是会议必不可少的一个设备。我很怀疑如果演讲人的电脑不能正常连接到房间的音频/视频设备，他/她是否还能发表演讲。过去的几千年，人类在没有任何技术的帮助下发表演讲。显然这样的时光已经一去不复返了。你能想象苏格拉底对柏拉图说“对不起，如果你的笔记本电脑里没装PowerPoint，我就不能和你对话”么?

或许图灵测试是一个自我实现的预言： 我们(声称)打造“聪明”机器的同时，我们也在把人变笨。

总之，人们以及媒体的宣传对人工智能技术或奇点论的过分乐观并无道理可言，因为A.I.尚不能解决很多现实中的问题。过分的乐观主义不能替代切实可行的解决方案。从历史上来看，盲目的乐观可能是最致命的大规模杀伤性武器。