《超级智能》读书笔记(上)

从室外的植物丛中回到室内之后,我们不可避免的会面对手机、电脑等人造智能电子产品。

现在,我们和牛津大学人类未来研究院院长尼克‧波斯特洛姆《超级智能》一起开启一段引人入胜的旅程,把你带到对人类状况和智慧生命未来思索的最前沿。

本书目标宏大,且有独创性,开辟了人工智能领域的新道路。同时,本书也为理解人类和智慧生命的未来奠定了基础,是对我们时代根本任务的一次重新定义。

本书既不是论述人工智能技术实现方法的教科书,也不是普及人工智能概念的营销学著作,而是一本一步一个脚印地论证超级人工智能出现时我们该如何应对的未雨绸缪之作。

面对谁也没有见识过的可能性现象,作者并不是天马行空地描述一个他个人假象的世界,而是言必循理、论必有据地在谨慎地推敲超级智能产生的条件、产生的时间、可能的状态以及防患的方法。

如果你深信电影里的那种人工智能将会实现,不妨读一读此书来了解一下应对之策。如果你觉得机器超越人类只是危言耸听,不妨先读一读本书,再做一次判断。

智能之所以会“超级”,是因为有爆发的可能

第一章 人工智能:昨日成就与今日现状

机器有一天会全面超越人类,这就像是宇宙中一定存在外星生物一样,虽然我们没法证实,但几乎是可以断言的。

一、人工智能的发展历史与展望的简要介绍。

人类进步的速率有着明显的超越指数级的加速性。如果说早期人类的生产能力增长到能够维持另外100万人基本生存的水平需要大约100万年的时间,那么今天世界经济平均每90分钟就能够增长相同的量。作者指出的这一增长趋势让人联想到了之前刷爆朋友圈的一篇关于“吓尿理论”的文章。

大概是说,在很久很久以前,如果有时光机,把一个古人带到未来100年以后,他可能觉得世界没有太大变化,要带回1000年以后,社会的变化才能把他“吓尿”。而如果把一个人从十年前带到今天,一个智能手机就把人家“吓尿”了。

说好了讲超级智能,作者为什么要“不务正业”地普及人类简史呢?是因为需要引出一个重要的“奇点”概念。费诺·文奇开创性的文章以及雷·库兹韦尔等人的著述所揭示的那种即将到来的技术性奇点已经受到广泛关注。

“奇点”的概念比较重要,我着重引申介绍一下。什么是奇点呢?为了方便大家理解,我引用另一本书《与机器赛跑》中的一个经典案例。

很久以前,发明国际象棋的人向国王要赏赐,他说:“您就在我的棋盘上,第一格放1粒米,第二格放2粒,第三格放4粒,以此类推,每一格都比上一格多一倍。”。后来他就被国王宰了。因为这样放到最后第64格的时候,全国的米都给他都不够了。这是个很简单的故事,你也可能听说过,这是一个指数函数的故事。

这个故事真正可怕的地方在哪里呢?并不是在64格的时候你遇到的天文数字,而是在32格的时候,你还以为那是一个合理的趋势。32格的时候,国王需要给发明家40亿粒米,这差不多是一大片耕田而已,只是会让你突然觉得有一点点多。

32是个神奇的范围。听说过摩尔定律吗?英特尔的联合创始人摩尔在1965年发现了一个规律,大概是说相同面积的集成电路上,晶体管的数量每一年会翻一倍。

后来这个规律又逐渐被更新到每18个月或者以上,但是大的翻倍趋势还是在的。算到今天为止,应该刚好过了32个轮回多一点。

想象一下人类技术的发展曲线图,也许你正沿着一个小山坡走着上坡路,可你却不知道马上你就会撞上山崖了。为方便认知,可以直接把这个曲线区别明显的拐点处理解为“奇点”。

以上就是对“奇点”概念的一个粗浅介绍。然而,作者却不想在书中宣传这个概念,他认为“奇点”这一术语在很多不同领域被混乱地使用,并催生出一种不合理的技术乌托邦氛围,于是提出以更精确地的术语代替,比如说“智能爆发”。

正因为这种技术发展的速度有着爆发的可能,才有超级智能诞生的可能。

二、神不准的人工智能发展预测

自从20世纪40年代计算机被发明出来之后,机器就一直被寄予厚望,人们希望机器能够具备人的一般智能。所谓的一般智能,就是说能做人做的大部分事情,像人一样思考的行动。

在这一部分,作者黑了一下预言家们。他认为从计算机诞生那一天,一直到现在,每次谈及何时能实现一般智能,预言家们都说20年以后。

这大概是因为这个时间跨度既近到抓你眼球,又远到不用他们负责任。这个吐槽相当犀利。那么至于为什么会这样,作者认为主要原因是创造人工智能机器所遭遇的技术困难远远超过了先驱者们认为的程度。

然而,万一一般智能被实现的那一天真的到来了,我们还需要马上考虑另一个问题,那就是什么时候机器智能会超越人类智能。因为这列技术的火车不会在到达人类智能水平的这一站就停滞不前或者减速行驶,它很可能会飞速而过。

事实上,很多人工智能都已经在某些特定领域超越人类了,比如前不久我们都见证了谷歌的围棋机器人打败世界冠军李世石。

只不过,这些智能体并不是以一般智能的方式来实现战胜人类,而只能在某个特定领域超越人类而已。那么,一旦人工智能以一般智能的方式,全面超越人类智能,会发生什么情况呢?

本书的序作者在书序《天算论》中总结作者的心态总的来说是积极的,他的乐观来自一个判断:“我们拥有一项优势,即我们清楚地知道如何制造超级智能机器。”

然而真的是这样吗?I.J.古德是人工智能之父图灵当年的密码破译小组的首席统计师兼数学家。他指出:如果人类制造出的超级智能超越了所有人类智能活动,那么这样的超级智能也理应有能力制造出比人类所制造的自身更好的超级智能。这是一个很显然的逻辑。

作者也提到,人工智能的先驱者们大多数都不认为他们的事业可能会存在风险。我认为,作者的心态总的来说其实偏向一种不可知论。也就是,超级智能会发展成什么样子,是积极还是消极,我们不能准确预判。但是有一件事是可以肯定的,那就是从现在开始就要谨慎对待。防备还是要有的,万一搞出个灾难呢。

三、人工智能的大起大落

要想让对人工智能的未来预判更准确,就必须先了解它的发展史。人工智能的发展就像一个创业者一样,大起大落,一波三折。

1956年的夏天,由多名顶尖科学家组成了著名的达特茅斯会议,研究表明许多预想的人工智能问题可以得到突破。这次会议激发了人工智能的第一次研究热潮。

人工智能的发展驳斥了那种认为机器“只会数数”的想法并显示出机器也能够进行推理和逻辑证明。之后又出现了解决微积分问题的程序,甚至解决智商测验中图像类比问题的程序。我们今天所听说过的一些经典人工智能应用场景,雏形都是在当时产生的。

然而,这种早期的经典人工智能方法迎来了一个叫作“组合爆炸”的巨大瓶颈。举个例子,一些简单的棋类智能程序可以通过决策树来解决。大概的意思是,每下一步棋,机器就分析接下来所有的可能性,然后选择胜算最大的招数下棋。

但是要分析连续几步以后的所有可能性,可能性的数量就会呈指数级激增,就像之前提过的棋盘上放米的例子,最后可能性多到根本不可能计算。这时候这种把所有可能性都排查一遍的“穷举法”就会失效了。

于是这种方式很难向更广泛的领域延伸。算法的局限加上早期硬件设备性能的限制,使得人工智能遭遇了第一个寒冬:项目被砍,资金缩水,怀疑论甚嚣尘上。

20世纪80年代早期,人工智能迎来了第二个春天。当时日本发起了第5代计算机系统工程,通过发展大规模并行计算结构为人工智能的实现搭建平台。简单来说,就是硬件与算法同时的进步,带来了人工智能新的发展可能。接下来的几年见证了专家系统的繁荣。专家系统的设计理念是为决策者提供支持工具,是指在已有的知识库上,根据不断询问来选择出最终结果的系统,比如常见的自助医疗诊断系统。

但是,专家系统也同样存在着缺陷:小规模的系统没有什么太大价值,大规模系统则需要在开发、确认和数据更新上耗费大量成本,在运用时往往也会非常麻烦。所以人工智能第二次的寒潮毫无意外的到来了。私人投资者们开始回避任何与人工智能相关的风险。甚至对于学界人士以及学术资助人来说,“人工智能”一词都让人感到厌烦。

但是技术依旧在飞速发展,20世纪90年代,寒冰开始消融。新的技术似乎提供了一种有别于传统逻辑范式(经常被称为GOFAI,意为“出色的老式人工智能”)的替代路径。神经网络和遗传算法等新流行的技术有望在某种程度上克服GOFAI路径的缺陷,即只要系统存在一个微小的错误假设,整个结果就会变得毫无意义的缺陷。新的算法具备“故障弱化”的特性,微小的损坏通常只会导致整体性能的微小弱化而不会造成系统完全崩溃。

要理解其中的区别,就必须深入研究老式人工智能和新兴机器学习算法的原理。这对于非专业读者来说太难了,我在此举个例子:如果说老式人工智能方法是设计一整套精密的机械装置的话,新式人工智能方法就像是建立一个自然生态环境。精密的装置少了一个螺丝就有可能不能工作了,而生态环境哪怕产生了一些局部破坏也会自然恢复。

神经网络像是模拟人类大脑皮层神经元组合的特质,而遗传算法则是模拟自然界基因传承、突变、优胜劣汰的特点。这两种方法的发展构建出了两条引领人们走出第二次人工智能寒冬的路径,激发起了人们的广泛兴趣。在此基础上,一批从实例中学习的算法逐渐成熟,带来了今天机器学习的新繁荣。

回顾人工智能的大起大落,真是分久必合,合久必分。眼看起高楼,眼看宴宾客,眼看楼塌了,又起一座楼。对比每一次起伏和今天人工智能“新风口”的地位,怎不令人唏嘘啊。

四、 发展与危机

如今人工智能已经在很多特定领域超过了人类,除了前段时间的AlphaGo围棋机器人,书中还罗列了许多项目。有些项目发展得如此成熟,以至于人们已经不觉得那是人工智能了,只是软件而已。人工智能的特点是在有限的范围或领域内具备认知能力,而软件系统的主要特征则是具备普遍的问题解决能力。

实际上,诸多已经成功发展人工智能的领域都是特定智能的成功,我们提到过,一般智能的技术还远没有达到人类智能水平。现状是,人工智能在所有需要“思考”的领域中成功了,却在人和动物不用思考的直觉领域经受着挑战。比如要开发一个围棋机器人容易,但要让一个机器人看到棋盘就知道这是围棋则很难。如今人工智能的发展已经在重点攻克这些领域。识别物体、自然语言理解、人脸识别、机器翻译等技术,都在高速发展。

已经成熟的技术,会给我们带来什么危害吗?作者在书中给出了2010年美国股市“闪电崩盘”的例子。简单来说,就是当自动交易程序已经成熟并且被各家金融机构深度依赖以后,有一次系统曲解了一次不合理操作背后的意义,开始高频交易,引发了连锁反应,最后在短短几秒钟内数以万亿计的美元被吸出市场。虽然这种自动交易程序本质上不算是高级人工智能,但是这种由于对计算机程序的依赖所导致的闪电崩盘还是能够警醒我们。

五、 对未来机器智能的看法

在两个主要前沿阵地中所取得的重大胜利重新唤起了人工智能研究的辉煌。一个是建立在更可靠的统计以及信息理论基础上的机器学习实现了突破,一个是在将解决特定领域特定问题的人工智能应用到特定的实践和商业中所得到的成功。

本章最后作者指出, “人类水平的机器智能”(HLMI),即至少能像人一样开展人类能做的大多数专门活动所需要的智能,可能会在21世纪中叶实现,可能早也可能晚。但是只要这种机器智能出现,就会很快出现超越人类智能水平的超级智能。这会对人类生存产生极其重大的影响,或是产生极好的影响,或是造成人类灭绝。不管怎样,这都说明我们很有必要去认真研究人工智能这个议题。

第二章 通往超级智能之路

一、人工智能

虽然上一章已经提到在一般智能方面目前机器还远不如人类。但是,机器终有一天会变得超级聪明。本章作者探讨了几种实现超级智能的可能路径,这里对超级智能的定义是:在几乎所有领域远远超过人类的认知能力。作者提到的可能路径包括了人工智能、全脑仿真、生物认知、人机交互,以及网络和组织。

我们来讨论以遗传算法为基础的人工智能。人工智能系统的核心特征是获知能力,以及有效处理不确定性和概率信息的能力。在现代人工智能理论中,一些学者希望通过研究信息传递的过程及人脑内部构造来研究人工智能,用获取的有用的概念来创造可进行逻辑推理的智能,这种能力很可能是现代人工智能达到全面领域智能水平的核心要素。

早期,图灵提出过“儿童思维机器”的概念,即编写一个像儿童一样有学习能力的程序,让其演变具有成成人智力水平的思维程序,而不是直接创造出成人水平的智能。这个理论,结合模拟进化过程的遗传算法,以得到类似生物进化的结果,成为实现人工智能的一种方法。

然而,这个方法的难点在于计算能力的突破。由于运算复杂度实在太大,靠现有的计算能力是行不通的。哪怕是根据计算能力的发展水平来期待未来的计算能力,也不知猴年马月才能实现。

另外一种实现人工智能的可行方法是研究人类大脑,以大脑作为机器智能的模板。相当于搞清楚大脑内部的结构和工作原理,然后人造一个程序脑。由于我们用电和金属解决了生物学的一些功能,所以只需要模拟大脑的工作方式就可以了,这使得问题简单了许多。但是,我们仍然很难预测,什么时候脑科学发展水平才足以解开大脑工作原理的所有奥秘。

综上,以哪种原理设计人工智能的讨论尚无定论。但是,有一件事应该强调:人工智能不需要模仿人类的心智。事实上,人工智能极有可能与人类的心智不同。此外,人工智能的目标体系可以从根本上与人类的目标体系相异。尽管还有很多难关,但一种比较合理的猜想是,超级智能可能首先会通过人工智能的途径得以实现。

二、 全脑仿真

另一种途径是全脑仿真,也被称为“上载”,通过扫描和对生物大脑仔细建模的方法制作智能软件。这个过程需要三个步骤:第一,切片和扫描,精确扫描人类大脑。第二,重建和翻译,将扫描过的原始数据输入计算机,自动图像处理会重建原先大脑中负责认知的三维神经网络。第三,模拟和实现,在一个运算能力足够强大的计算机上输出神经计算结构。

图片发自简书App

全脑方针路径不要求我们了解人类知识的原理或者构造人工智能的程序,我们只需要了解大脑的基础计算元素所具有的基本功能和特征即可。然而,要实现它仍然有三个关键的先决条件:扫描,有足够高的分辨率和相关检测性能的高通量显微镜;翻译,自动图像分析将原始扫描数据翻译成对一种神经计算元素相关的三维模型的阐释;模拟,硬件需要足够强大,已实现得到的计算结构。

我们有充分的理由认为必要的支持技术是可以实现的,只是时间问题。理论上现在的知识和能力支持发展必要的技术是没有障碍的,但很明显,若想实现全脑仿真技术,还需要有跨越式的发展。比如,显微镜不仅要有足够高的分辨率,还要有足够大的吞吐量。类似的待发展的技术还有很多。

总的来说,全脑仿真比起人工智能要依靠更多的技术能力和更少的理论洞见。而脑补模拟的抽象水平决定了全脑仿真需要多少技术能力。从这个方面考虑,全脑仿真需要理论与技术之间的平衡。

在技术发展中,一旦能得到自动模仿少量脑部组织的技术,剩下的问题就是同比缩放了。比如我们可以先实现秀丽隐杆线虫的脑部仿真,再依次实现蜜蜂、老鼠、恒河猴、人类的脑部仿真。一旦我们开始登上这个“梯子”的最后一级,最终实现人类全脑仿真就指日可待了。那么,在通过全脑仿真路径实现人类水平的机器智能之前,我们就至少可以期待获得一些预警。作者这里又一次提到预警,可见时刻在为超级智能实现后的负面可能未雨绸缪。

三、生物认知

第三个路径是运用比现有人类更伟大的智能提高生物大脑的功能。作者在这里提到了一些优生学的理论和案例。读者可能会疑惑,这和人工智能有关系吗?确实,似乎扯得有些远,但其实不然。一来,作者对于“超级智能”的定义从来就不局限于机器智能或者人工智能,而是一个更广义的定义。二来,作者认为研究并实现人类智能的提升,可以加快机器智能形成超级智能的速度。

我们个人的认知能力是可以用不同的方法加强的,包括教育和培训。生物医学水平的提高也可以有效帮助我们提升记忆力、集中注意力。而基因操纵的方法则是更上一个台阶的,比精神药理学更强大的工具。在未来10年或20年,可筛选或剔除的基因性状的范围将大大扩展。当基因和胚胎可以选择,人类面对着人工进化实现的可能性。

然而,问题还是慢!如果每一代胚胎培育要花费20到30年,那么连续5代就会把我们推到22世纪。哪怕使用生殖干预措施,让人类真的可以在生殖细胞或者胚胎上实施基因筛选,也必须考虑到将世界上任何重大影响延迟的世代间隔。即使技术完善,也需要20多年来让这代基因增强的个体达到成熟阶段。所以,这个过程将会是相对缓慢和渐进的。

1.人脑—计算机交互界面

有人曾提到使用直接的人脑—计算机交互界面,尤其是植入技术,让人类利用数字计算的长处,形成完美的混合系统,其功能远超没有强化过的大脑。这个技术有点像科幻片里的黑科技——生物和机械结合的生命体。然而,尽管我们已经利用类似技术治疗一些如帕金森之类的疾病,但是增强大脑的功能远比治疗难得多。

那么,跨越语言,让两颗大脑建立连接,让概念和思想可以被“下载”到另一大脑中,这个想法怎么样?实际上很难。人类智能的速率限制并不取决于信息输入大脑的速度,而是取决于大脑挖掘信息并获取有意义信息的速度。况且,每个大脑都有其独特的经验,导致细节结构都大不相同,找到通用方法的难度非常大。

人们寄予半机械化途径的一点希望是,如果大脑中能够永久地植入一个同一些外部资源相连的装置,那么经过一定的时间,大脑将掌握自身内部认知状态和装置交换的信息之间的有效互相映射。而这看上去不太可能实现。

2.网络和组织

另一种可能的途径是通过逐渐地增强网络和组织,这些网络和组织使得人类个体的大脑相互连接,并且同各种各样的人工产品和机器人相连接。


这听起来更加黑科技了。然而它的雏形几千年前就被实现了,那就是人类语言。人类能从集体智能中获益良多,而语言的发明就是最重要的因素。我们通过语言交换思想和经验,形成网络和组织。只不过,是否有一天我们可以拥有不需要语言,而直接连接大脑的能力,甚至直接用大脑操控外界的能力呢?现在许多科学家正在做这样的尝试。

我写这篇拆书稿的时候,刚巧还看见埃隆·马斯克在采访中声称,人工智能的未来在于有效连接人类大脑。许多人在为了超级智能的诞生努力着,让我们期待各个途径上的新成果吧。

思考与讨论:

(开放性问题)

如果说超级智能终有一天会与人类邂逅,那么它的成功实现有哪些前提条件呢?

第二章中介绍了许多种实现超级智能的可能方法,你认为哪一种是最有可能的呢?

№10 三种超级智能形式

第三章 超级智能的形式

超级智能如果是能被实现出来的,那么它可能是个什么样的东西。它会在什么时候发生,又为何会是一个非常有影响力东西。

一、超级智能的三种形式

这一章主要介绍了超级智能的三种形式,同时也说明了比起生物性基质,机器基质的智能潜力要大得多。机器具有很多根本性优势,从而具有压倒性的优越性。生物学人类即便提高了性能,也比不上机器。

我们用“超级智能”来指代在许多普遍的认知领域中,表现远远超越目前最聪明的人类头脑的智能。进一步完善这个定义,我们可以通过区分智能层面的超级能力,将超级智能的这种简单定义分解为:高速超级智能、集体超级智能和素质超级智能。

1.高速超级智能

高速超级智能是指和人脑相似,但速度快于人脑的智能。该系统可以完成人类智能可以完成的所有事,但是速度快若干个数量级。

我相信这个概念读者们都可以想象。但是,依据原文中的描述,我猜许多读者还不能够想得全面。

比如我们会把计算机处理数学运算的速度与人的运算速度比较,来类比着理解高速超级智能这个概念。这没有错,但是定义中的“更快”不是只局限于运算,而是针对“所有事”,包括了视觉、听觉、思维过程、行动能力等等。

作者举了个例子:当你的朋友把咖啡杯碰倒到地上这个过程中,超级智能一边欣赏着你朋友表情的变化一边重新订购了一个新杯子,读了几篇论文,还小睡了一会儿。

对于一个超高速运转的大脑来说,物质世界中会出现明显的时间膨胀。所以,其实把“闪电侠”和人拿来类比会更加贴切。这种高速超级智能更愿意使用数字对象工作。高速超级智能可以存在于虚拟现实中,在信息经济中工作。因为这种介质能够使它发挥更高的速度,而不会被物质世界局限。这也是机器相比于生物的一大优势。

2.集体超级智能

集体超级智能是一种通过整合大量小型智能,实现卓越性能的系统。该系统由数目庞大的小型智能组成,在很多一般领域的整体性能上都大大超过所有现有的认知系统。

从经验角度来说,我们都很熟悉这种概念,因为我们人类文明就是这样一种集体智能,只不过还没有上升到“超级”的地步。

集体智能擅长解决可被分为各个子问题的问题,可以同时寻找并单独验证各个子问题的解决方案,个体能够相对独立地工作,各耕其田。

通过增加系统组成部分的数量,或提高组成部分的质量,或优化组织方式,都可以提高系统的集体智能水平。然而,机器在这方面可以无限地延伸和复制,人类集体认知能力却必须有更极端的增长,才能符合集体超级智能的标准。

如果我们逐步增加集体智能的整合度,最终可能会形成一个统一的智能体。我们需要改善通信和协调技术,研究出更好的共同攻克任何智力难题的方式。这样,集体超级智能在获得足够高的整合度之后,便成为素质超级智能。

3.素质超级智能

素质超级智能是一个至少和人类大脑一样快,并且聪明程度与人类相比有巨大的质的超越的系统。这个概念有些模糊,我们也没有任何经验,因为比人类聪明很多的智能体还没有出现。

我们可以简单地理解为,如果爱因斯坦比普通人聪明好几倍,那么素质超级智能就像是比爱因斯坦还聪明几百倍的一个人。如果说三国演义中诸葛亮多智而近妖,那么素质超级智能就像是比诸葛亮还有谋略几百倍的人。不是说他们算算术有多快或者反应有多敏捷,而是当遇到一些难题的时候他们就是有常人想不到的解决办法。把他们的智能跟人类比,就像把人类的智能跟大象比一样。

或者,我们可以观察影响人类个体在特定领域的认知缺陷。比如自闭症患者可能在社会认知方面有严重缺陷,而在其他领域都是正常的,甚至有自闭症患者在某些领域上是天才,比如算术。我们有许多这样的案例。

这表明,可能存在一些没有表现出来的认知才能。而现实中的人类并不具备这些才能,如果其他智能系统拥有这些才能,它们的能力将得到极大的增强,足以完成种类繁多的战略相关任务。

这有点像X战警。我们可以想象一下,如果我们获得了一套新的认知模块,比方说我们会透视了,是否会让我们拥有新的优势呢?是否可能拥有超级智能呢?

作者认为,随着时间的推移,任何一种形式的超级智能都可以开发出创建其他智能形式所必要的技术。也就是说,刚才提到的三种超级智能形式是可以相互促进和转化的,间接范围是相同的。而他们的直接范围更难比较,可能并不存在确定的顺序。

但是,三种超级智能中,素质超级智能可能是最强的一种。在一些领域中,数量不能够替代质量。我们必须看到这种可能性:有一些智力问题只能由超级智能来解决,而在没有经过智能提升的庞大人群中,任何一个人对这些问题都无能为力。这些问题往往倾向于包括复杂的多重相关性,不能被分解为可独立验证的解决步骤。

二、数字智能的优势来源

为什么说数字智能一定能超越人类智能呢?因为它有太多明显的优势了。最容易认清的是硬件优势。

计算要素的速度。生物神经元的运作速度最高能达到大约200赫兹,比一台现代微处理器的运行速度慢了整整7个数量级。

内部传递速度。轴突运载动作电位的速度为120米/秒或者更低,然而电子处理核可以以光速进行传递,即3亿米/秒。

计算要素的数量。人类的大脑共有略少于1000亿个神经元。但是相比之下,计算机硬件可以无限制地扩大。

储存能力。成年人类的大脑可以储存大约10亿比特的信息,比一台低端智能手机还低了几个数量级。

可靠性、使用寿命、传感器等。大脑在工作几小时之后会变得疲劳,在经过几十年的主观时间之后会开始永久性地衰退,而微处理器则不会受到这些限制。

我们可以看到,硬件性能的最终极限要远远高于生物计算基质的极限。除此之外,数字大脑还将受惠于其在软件方面的重大优势:

可编辑性。相较于大脑神经系统而言,对软件进行参数变化方面的实验更加容易。

可复制性。对于软件,人们可以以很快的速度制造很多高精确度的复件,来填补可用的硬件基础。

目标协调性。机器可以让组成部分达成一致的目标。

记忆共享。要获得新的记忆和技能,生物大脑需要较长时期的培训和辅导,而数字大脑通过交换数据文件就可以做到。

新模块、形态和算法。人工大脑如果能在特殊领域提供专门支持,在这些领域将会远超人类大脑。

综上,机器智能、硬件和软件联合起来可最终获得的优势将是巨大的。下一章我们就要讨论这种潜在的优势何时才能实现。

第四章 智能大爆发的动力学

一、智能爆发的时间和速度

目前最先进的人工智能系统都远远低于人类基础智能水平,未来的某一天,机器智能或许可以接近这一水平,而这标志着机器智能全面提升的开始。随着机器系统的聪明程度不断增长,其将会达到人类综合智能水平,我们称之为全面人类智能水平。最终机器的聪明程度将提高到超级智能水平,大幅超过当前的全人类智能水平,这标志着整个爆发过程的完成。

未来的系统还会变得更聪明,智能大爆发的过程将会经历一个标志点,我们称之为跨界点。此点之后,机器智能水平的提高便将主要依靠自身而非他人的行动。

我们可以识别出有三种可能的智能大爆发的情形,分别是缓慢的、迅速的和温和的智能大爆发。缓慢的智能大爆发是在相当长的一段时间内发生的,比如几十年甚至更久,这给人类政治进程提供了良好的适应机会。迅速的智能大爆发,往往发生在非常短的时间内,比如几分钟、几小时或者几天。人们没有足够的时间做出反应,往往是在整个爆发过程结束之后,都没意识到问题所在。而温和的智能大爆发,多发生在中等长度的时间内,比如几个月或者几年。虽然人类不足以发展出新的体系,但可以调整现成的体系来应对新的挑战。

人们很难想象世界会在短时间内发生根本性的转变,人类在一两个小时中就失去了原先的最高地位,这是我们想不到的。但是作者认为缓慢的智能大爆发反而是最不可能发生的。一旦向超级智能的过渡开始启动,就将更有可能是爆炸性的发展。

开始分析爆发的启动速度之前,我们先要假设一个系统的智能增长率为两个变量的单调递增函数。这两个变量分别为:最优化力和系统智能对这种最优化力的反应度。我们用反抗度表示反应度的倒数,也就是说,反抗度越高,说明对这种最优化力的反应度越低。

作者在这里给出了一个公式:智能变化率等于最优化力除以反抗度。当系统有提升的空间,并且人类为之付出了大量努力,或者人类进行了许多有效的设计工作,并且机器人的反抗度很低时,系统的智能水平就会迅速提升。

此外,一个当前的系统的最优化力水平,也会影响反抗度的值。所以这就像拼图游戏一样,开始的时候很简单,只要找到边角的图块即可。中间的图块最难找,此时反抗度不断上升。而随着拼图逐渐被完成,剩余的空块越来越少,难度又再次降低。

二、反抗度和最优化力

1.反抗度

为了深入研究,我们需要分析智能大爆发的几个关键时期中,反抗度和最优化力是如何变化的。我们先来谈谈反抗度。作者谈到了一些非机器智能的降低反抗度的途径,我觉得这里不做重点考虑,因为读者读本书的目的可能并不是了解人类如何能够进化得更好,而是要看机器智能是如何发展的。

但是,长期看来,人脑—计算机发展过程中的困难与发展仿真系统和人工智能中的困难十分类似。以目前我们所熟知的互联网为例,它始终是一个前沿领域,拥有大量提高人工智能水平的机会,其反抗度目前处于中等水平,系统发展是迅速的,但是要为之投入大量的工作和努力。

我们主要来看仿真系统和人工智能的途径。开发全脑仿真系统的难度很难估计,当机器具有和人类一样的智能水平时,反抗度可能会迅速下降。也就是说,系统智能会对这种最优化力反应很快。

由于人类经济史上从未有过一个劳动者能够被准确地复制、重置和以不同的速率运行,所以第一批仿真系统的使用者可以发掘出大量的创新和改进空间。当全能仿真系统被发明出来后,其反抗度起初会急剧下跌,随后则有回升。对于人工智能来说,通过算法改良来实现超级智能的困难,取决于系统的具体特性。

而我们也会有一些特殊情况,使得系统的反抗度非常低。举个例子,当程序员长期被某一关键性问题困扰时,他正在开发的人工智能就会进展缓慢。而一旦这个关键问题被解决,人工智能很可能从低等级直接飞越到高等级。

现在我们的人工智能水平还处于比较低的水平,要改进人工智能,我们需要从两个因素进行考虑:一个是内容,另一个是硬件。

首先内容改进。这里的“内容”只是系统的软件资产,而不是核心运算结构的全部。内容可能包括:储存感知数据库、专门技能图书馆以及陈述性知识。想象一下,以一个十岁儿童的阅读理解能力,再加上迅速读取整个美国国会图书馆中所有书籍内容的阅读速度,这样的人工智能,从内容角度来讲其进化是迅速的。

而从硬件来讲,在一个具有人类水平的软件系统中扩大集体或速度智能所带来的反抗度可能会很低,唯一的困难在于如何获得更大的计算机能力。要扩大一个系统的硬件基础有很多种方式,各对应不同的时间标尺。在短期内,计算机能力应该与资金大致呈线性关系;在较长时期内,获得更多硬件的成本,可能会随着全世界安装计算机的能力用于运行数字大脑的比例上升而提高;而在更长的时间内,计算能力供应会随着新增加的性能而提高。综上所述,我们可以谈论硬件延展的可能性:当创造出达到人类水平的软件后,就可以有足够的计算能力来高速运行大量的复制品。

2.最优化力与爆发

作者在书中给出的智能大爆发动力学公式反映出,快速的爆发并不需要过渡阶段,其反抗度保持较低水平。而且,如果在用于系统提升性能的最优化力快速增长的条件下,反抗度恒定甚至适度增长,也会出现快速的爆发。所以快速爆发的可能性比缓慢爆发要大。

第五章 决定性战略优势

一、领先者会取得决定性战略优势吗?

这章我们主要讨论,将会有一个还是多个超级智能的问题,以及,会有一个超级智能取得绝对的战略优势,然后利用垄断优势镇压竞争者从而建立单一体吗?

决定领先者与追随者差距大小的一个因素是,使领先者获得竞争优势的技术的扩散速率。也就是说,如果追随者能够快速模仿或者抄袭领先者的话,将会对领先者不利,而使得落后者获益。然而我们不应该认为,这种抄袭会随着领先者与追随者差距的增加而增强。因为一个落后得足够遥远的落后者是很难模仿最先进的技术的。

那么到底是会有一个智能独冠群雄,还是多个智能百家争鸣呢?作者在书中讨论了许多的观察,最后得出结论:在全世界那么多人工智能项目当中,就爆发速度而言,几乎不可能有两个项目同时快速启动;对于中速启动,独冠群雄和百家争鸣两种情况都有可能发生;而对于慢速启动,很可能有数个项目同时启动。

二、成功的项目可能会有多大?

那么,一个成功的项目可能会有多大?通往超级智能的某些途径需要大量的资源,包括人力、物力、财力和技术。其中,实现人工智能的途径更加难以估计,其可能会需要一个非常大的研究项目,也可能一小群人就能完成,同时也不排除一个黑客独自完成的可能性。

考虑到超级智能具有极其重要的安全意义,各国政府可能会把他们看来即将实现启动的、在其领土范围内的任何一个项目国有化。因此,一个重要的问题是,国家政府或国际组织是否能够预见智能爆发的到来。这些组织作为大玩家,他们的态度对智能发展有至关重要的影响。如果国家政府等大玩家积极参与的话,那么小规模的组织可能会更难以对智能爆发的结果产生影响。另外,如果全球治理结构整体上变得强大,那么国际合作的可能性就会增加。大规模的跨国科技合作存在成功的先例,比如国际空间站、人类基因组项目和大型强子对撞机。国际合作项目需要克服较大的安全挑战,同时大概还需要一定的信任才能启动,而建立信任则需要一定的时间。

三、 从决定性战略优势到单一体

作者在本章中讨论了对许多国家视角的分析,但是如果具有决定战略优势的不是一个人类组织,而是一个有超级智能的人工智能体,情况会怎么样呢?通常情况下,人类个体和组织会倾向于不去承担等额的风险。他们在决策过程中,可能并不寻求期望效用的最大化,而是倾向于规避风险。然而依靠数学计算思维的人工智能,更有可能采取冒险的做法去获得统治世界的机会。

当超级智能试图利用明显的决定性战略优势巩固主导地位时,他可能会对形势有更清晰的认识,从而减少战略混乱和结果的不确定性。举个例子,当美国发明出原子弹以后,本来可以利用核垄断的地位来建立单一体,没有这么做的原因是成本问题,因为国内的道德、政治和人力的代价会非常大。然而超级智能的不同在于,他的优势太过强大。想象一下,不需要通过核武器来对抗其他国家,而是拥有更加强大的技术优势,强大到使得其他国家自愿解除武装。这种时候,统治成本就会非常小了。

最终结论是:未来的某个大国如果拥有了获得足够战略优势的超级智能,他利用这种优势建立单一体的可能性会非常大。而弄得不巧,超级智能会以国家机器为跳板达到自主统治的地位。

思考与讨论:

(开放性问题)

三种超级智能形式现在能找到雏形吗?分别是什么?

如果中国出现了超级智能雏形项目,政府可能会怎么做?

摘自《超级智能》作者[英]尼克·波斯特洛姆

[卡片作者]王嘉喆

《点进去有精彩》

推荐阅读更多精彩内容