莫利2004：听起来像国王迈达斯——他触摸过的所有东西都变成了黄金。
●本书的第4章将讨论，人类智能具有可塑性（拥有改变其结构的能力），现在对这一点的理解更为透彻。但是人类大脑的体系结构有自身的局限性。比方说，我们颅腔内只能容纳1×1015个神经节点。与人类祖先相比，认知能力提升的一个重要原因是基因的改变，它使得大脑皮层和局部区域内的灰质增多32。这一变化是随着时间缓慢地推移进化而来的，但它仍然受到大脑容量的限制。机器却可以重新设计自身，而没有容量的限制。仅仅通过纳米技术（不需要增大体积或消耗更多的能量），就可以使机器的容量比生物大脑的容量大得多。
●非生物智能可以从其他机器下载技能和知识，并且最终可以实现对人类知识的下载。
●机器可以在近乎光速（3×108m/s）的速度下进行信号的处理和转换，而哺乳动物的大脑进行信号传输的速度仅为100m/s31。这两者的速度比例接近3000 000=1。
●智能扩散至整个宇宙所需的时间，取决于光速是否是一个不可改变的限制。目前一些模糊的证据表明可能不存在这种限制，如果限制不存在，未来人类文明的巨大智能将会被进一步开拓。
莫利2004：让我想想，嗯，首先我想调整我的简历，使自己能给未来的这股力量留下好印象。
在我看来，奇点涉及很多方面，其发展速度是近似垂直的指数增长，技术的扩展速度也似乎是无限的。当然，从数学的角度，奇点的发展是没有间断和断层的，其增长的速率极快，但仍是有限的。但在我们当前的有限框架内，即将发生的事情似乎是连续性过程中一个突发性的中断。我强调“当前”，是因为奇点的一个突出影响是改变了人类理解能力的本质。当人类与技术相融合后，人类将变得更加智慧。
莫利2004：不会吧？
雷：完全正确。
雷：我希望来自奇点的智能可以充分尊敬他们的生物祖先。
●范式转换（技术创新）正处于加速状态。现今它正以每十年翻一番的速度增长28。
●生物具有内在的限制。例如，任何活的有机体都是由单层的氨基酸排列而成的蛋白质组成的。由蛋白质组成的机体缺乏力量和速度。我们可以通过技术对生物机体的大脑和身体中所有的器官和系统进行改造，使其性能更具优势。
——福诺·文奇"The Technological Singularity"，1993年
莫利2004：其实如果你只是我优秀的仆人，那也不错。
对于比人类智能更具优势的非生物智能的出现，许多预言家都发出了警告（我们将在第9章进一步探讨这一问题）。通过与其他思想源密切融合，来提高人类智能的潜力的方法，并不能缓解这份担心，所以有些人认为应该保持“不提高”的态度，如此这般，人类便可始终保持在智慧食物链的顶端。从人类生物学的视角来看，这些超人的智慧将为人类提供服务，满足我们的需要和愿望。当然，实现人类的意愿，仅仅是奇点众多能力中微不足道的部分。
蒂莫西·勒瑞：因此主观上的时间会延长。
乔治2048：事实上在2048年，情况就是这样的。
查尔斯·达尔文：我可以打断一下吗？在我看来，一旦机器的智慧超过人的智慧，它们就会自己设计下一代机器。
●随着非生物智能的加速改进，纳米技术将能够在分子水平上进行操作。
图 1-7
莫利·瑟可2004：我怎样能知道奇点什么时候来临呢？我的意思是我需要时间准备。
乔治2048：任何时候我都会忠于你的，但我可不仅仅是你优秀的仆人。
莫利2004：好吧，如果我最终到达了那个世界，拥有了超多的主观时间，我想我会无聊死的。
莫利2004：很抱歉我那样问。但是，就像我想的那样，我不仅仅想要我的东西，还要所有的动物和植物。即使我不能看见或触摸它们，我也想知道它们的存在。
你知道，事情会真的不一样！……不，不，我是说真的不一样！
那么，这就是奇点。有人会说，至少在目前的认识水平上它很难理解。正是出于这个原因，我们不能以看待过去的视野，去理解必将超越它的事物。这就是我们将该转变称为“奇点”的一个原因。
●计算机也将受益于快速的三维分子电路。今天的电子电路比哺乳动物大脑中的电化学开关要快一百万倍。未来的分子电路将基于诸如碳纳米管类的设备，它们由直径大约10个原子的碳原子柱体组成，其体积是现今基于硅的晶体管的五百分之一。由于信号传输的距离更短，与现有芯片几个千兆赫（每秒数十亿运算）的速度相比，其运行速度将以太赫兹计算（每秒万亿运算）。
莫利2004：那正是我所担心的——我的意思是，我们努力地保护他们，但是保留下来的还只是一点点，我觉得我们会有像濒危物种那样的结局。
这样的数学函数实际上从未达到过无限的值，因为除以零是数学上“未定义”（无法计算）的。但是，因为除数x趋近于零，y的值超过任何的限制（趋于无穷大）。
技术进步的步伐能无限的持续加速吗？会不会存在这样的情况：人类的思维速度跟不上发展的节奏？对于未进一步进化的人类，必然如此。不过，如果未来有1000名科学家，每个人的智能都1000倍于现在的科学家，并且每个人都以比现代人类快1000倍的速度进行操作（因为信息处理在他们的非生物大脑里运行得更快）。那时1年的时间就相当于现在的1000年27。如此，人类便可以跟得上技术的增长速度了吧？
莫利2004：嗯，这样说的话，听起来很快就会实现；但说真的，我在接受新事物方面有些困难，我又怎么能跟上奇点的步伐呢？
乔治2048：好吧，如果我们的关系会成为想象中的那样，那也是个不错的主意。
内德：但是机器和他们的祖先们怎样交流呢？我想我不愿意挡住他们的路，我在19世纪初为躲避追捕而藏了好几年，不过，我怀疑躲避这些机器会更难……
●信息技术动力（性价比、速度、容量以及带宽）正在以指数级速度递增，几乎每一年都要翻一番29。这条原则还适用于其他领域，例如人类知识的总量。
莫利2004：我知道你会一直那样说。但我指的是生物现实。
是的，人类智能可以跟得上技术进步的速度，人类甚至可以拥有更高的智能（因为人类智能不再是固定的容量）。他们会改变自己的思维过程，使自己能够更快地思考。当科学家比现在聪明100万倍、处理速度快100万倍的时候，一小时的发展就将相当于现在一个世纪的进步（以现在的标准）。
内德·路德：人类将来可能会从这个循环中被淘汰37。
●机器可以共享资源、智能以及存储能力。两台机器（或者说一百万台机器）可以联合在一起成为一台机器，之后又可以相互分离。大量的机器也可以瞬间组合成为一台机器，之后立即分离。这种现象人类称为相爱，但以生物自身的能力来看，这是短暂而不可靠。
内德：这听起来更像是一个不稳定的失控的现象。
在我于1989年写的《The Age of Intelligent Machines》一书中，我提出了在21世纪前半叶，技术不可避免地朝向机器化发展，必将大大超越人类的智能20。汉斯·莫拉维茨在1988年出版的《Mind Children》一书中通过分析机器人进展得到了类似的结论21。文奇在1993年发表于NASA组织研讨会上的论文中，描述了即将出现的奇点源于“高于人类智慧的实体”，他将其作为逃逸现象的先兆22。在我1999年出版的《The Age of Spiritual Machines：Whencomputers Exceed Human Intelligence》一书中，我介绍了生物智能和我们正在创造的人工智能之间的密切关系23。同样在1999年出版的汉斯·莫拉维茨的《Robot：Mere Machine to Transcendent Mind》一书，描述了2040年的机器人作为人类的“进化的继承人”，机器将“伴随我们成长，学习我们的技能，并分享我们的目标和价值……是我们思想的继承者24”。澳大利亚学者达米安·布罗德里克于1997年和2001年出版的名为《The Spike》的两本书中，分析了几十年来所预期的进步技术和加速发展带来的广泛影响25。约翰·斯玛特在其系列著作中把奇点描述为他所谓的"MEST"（物质、能量、空间和时间）压缩所导致的必然结果26。
乔治2048：嘿，哥们。
雷：我会在这本书中的后面章节中解释。
●我们将在这个10年结束的时候（2010），实现用超级计算机硬件模拟人类智能，并且在第二个10年结束的时候（2020），实现用与个人计算机大小相同的设备模拟人类智能。21世纪20年代中期，我们将会使用有效的软件来模拟人类智慧，对其进行建模。
●一旦非生物智能在人类大脑中获取立足点（这一研究在电脑化神经移植方面已经展开），人脑中的机器智能就会成倍增加（就像已经发生的那样），至少每年会翻一番。相比之下，生物智能的部分将会比较固定。因此，非生物智能部分最终将占主导地位。
莫利2004：躲避这些小机器人……
乔治2048：这个永远不会发生，我保证。
莫利2004：是的，躲避这些纳米机器人会非常难，我确信。
莫利2004：你是指快乐？
莫利2004：哦，那我会在一个虚拟现实中？
下一个例子是天体物理学。如果一个大质量恒星经历了超新星爆炸，其残余部分最终变成体积为零、密度无穷大的点，这时“奇点”便在该点的中心诞生。当这个星球达到了无限密度后16，连光都无法摆脱它的吸引，所以称为黑洞17。黑洞构成了空间和时间结构中的一种破裂。
莫利2004：太棒了，乔治，我会成为你尊敬的宠物，而不是我刚才想的那样。
约翰·冯·诺伊曼第一次提出“奇点”，并把它表述为一种可以撕裂人类历史结构的能力。20世纪60年代，I.J.古德描述的“智能爆炸”是指智能机器在无需人工干预的情况下，不断设计下一代智能机器。圣迭戈州立大学的数学家和计算机科学家弗诺·文奇，在1983年的一篇《Omni》杂志的文章和1986年的科幻小说《Marooned in Realtime》19中都涉及了即将到来的“技术奇点”。
莫利2004：我能够期待自己保持现在的样子吗？
●机器智能经过反复改进，其设计周期将变得越来越短。事实上，这是由范式转移速率的持续加速公式的预测得到的。也有人对持续的加速范式转移提出反对意见，认为它最终变得超出了人类理解的范围，因此虽然可以讨论，但它不会真的发生。尽管如此，生物智能向非生物智能的迁移，将使得智能的高速发展趋势持续下去。
乔治2048：那不是问题，我们会回收所有的东西。当你需要时我们会给你营造一个你需要的氛围。
乔治2048：我们喜欢把它看做是一种文明。
雷：其实，整个生物圈的物质和能量还占不到太阳系物质和能量总量的百万分之一。
查尔斯：是的，2004年机器还是受控于设计师的，一旦机器达到和人类同样的水平，它就会在一定程度上结束这一循环。
●机器可以通过互联网理解并掌握人机文明的所有知识。
●通过软件和硬件彻底地模拟人类智能，计算机将可以在21世纪20年代末通过图灵机测试，那时机器智能和生物智能将没有任何区别30。
雷：微机器人是纳米机器人，它是一种血细胞大小的机器人。这些机器人会自动连接起来，形成任意的物理结构。此外，他们能够以一种引导视觉和听觉的信息方式，把虚拟现实中的东西转换到真实的现实中38。
据一种理论推测，宇宙本身就起源于这样一个奇点18。但有趣的是，黑洞的界限（表面）是有限大小的，而且黑洞零尺寸中心的万有引力也只在理论上是无限大的。在任何可测量的位置，力量的值都非常大，但并非无限大。
雷：你指的是纳米机器人。
查尔斯：那时我也将处于一个全新的进化中。
内德：那就是泰德提出的——我们会成为宠物。那是我们的命运：成为心满意足的宠物而不再是自由的人类。
●加速回归法则将持续下去，直到非生物智能达到物质与能量的“饱和”程度，这类物质与能量存在于具有人机智能的宇宙附近。我所说的“饱和”是指基于我们对计算物理学的理解，把计算运用到最佳程度的物质和能量的模式。当接近这个极限时，人类文明的智能将扩散到宇宙的其他部分。这种膨胀的速度会很快达到极值，甚至可以达到信息的传递速度。
乔治2048：哦，无论如何，机器还是会发现的。但是不用担心，我们非常理解。
雷：就像今天我们努力保护热带雨林和物种的多样性一样。
●鉴于虚拟现实在决议和可信度方面比真实世界更有竞争力，人类的体验会越来越多地在虚拟环境中进行。
雷：哦，完全不是。如果能够建立一个类似于人类大脑的非生物智能，即使采用类似2004年的线路，它——
雷：当你的收件箱中1000 000封电子邮件时，你就会知道奇点来临了。
莫利2004：不知什么原因，我还是不太放心。我还是想知道奇点临近时的预兆。
乔治2048：绝对的！这不仅仅是尊敬，而且是崇拜！
内德：是的，你也会想起他是被饿死的。
雷：不，很多微机器人中。
事件的后果是什么呢？由超人类智能驱动的进步是非常迅速的。事实上，从短期来看，进步本身似乎与创造更高智能的实体无关。通过对以往进化的分析，我们可以认识到：动物能够适应问题，并从事发明创造活动，但其速度常常慢于自然选择——世界仿佛是其在自然选择情况下的模拟器。人类有能力适应这个世界，处理在我们头脑中的“假设”；我们还能够以几千倍于自然选择的速度解决许多问题。现在，可以通过创造的手段，用更高的速度去执行那些模拟，正是这些使我们从过去的体制迅速地进入一个全新的体制，就像我们从低等动物进化成人类一样。从人类的角度来看，这些改变将抛弃之前所有的规则，也许只需一眨眼的工夫，指数的增长就将突破任何试图对它的控制。
莫利2004：它仍然会是一个很漫长的过程。
●最重要的是，机器可以高速地共享资源；而相比之下，人类用语言进行知识交流的速度则慢得可怜。
●人脑扫描是一种以指数级速度发展的技术。本书第4章将会讲到，人脑扫描的时空分辨率和带宽每年都翻倍增长。我们已经拥有了充分的技术手段，来开始人类大脑运转原则的逆向工程（解码）。目前，已经有数百处大脑活动区域的模型被发现，并且可以被仿真。预计在20年内，人们将会详细了解人类大脑所有区域的活动过程及模式。
乔治2048：事实确实如此。
●纳米机器人会与生物神经元交互，并通过内部神经系统创建虚拟现实，这将极大地丰富人类的经历。
——马克·米勒（计算机科学家）对埃里克·德雷克斯勒说，约1986年
雷：为了确保我们没有丢失任何东西，保留全部生物圈还是很值得的。
莫利2004：哦，我们人类已经开始这样做了。
●大脑毛细血管中数十亿的纳米机器人也将极大地提高人类的智能。
我们把超智能的机器定义为一台能力远远超过任何人的全部智能活动的机器。一旦机器设计成为一项智能活动，超智能机器就能设计出更好的机器——毫无疑问，这就是“智能爆炸”，人类的智能将被远远抛到后面。第一台超智能机器将是人类最后一个发明。
●一旦机器拥有了像人类一样的设计和架构技能，仅仅更快的速度和更大的容量就可以使它们对自己的设计（源码）进行操控。人类正在通过生物技术进行类似的研究（例如改变人类的基因以及其他遗传信息），但是与机器只需改动它的程序相比，人类的速度慢得多，而且还受到了诸多限制。
●融合生物智能优势与人工智能优势（人脑识别模型的能力与非生物智能的速度、内存容量、精准度，以及交换知识与技能的能力），其力量将极为强大。
我个人认为，以超出目前的视野去看待问题，甚至要考虑到几十年之后的暗示是很难的，但并非不可能的。尽管如此，我仍然认为，尽管人类思想有局限，但人类依然有足够的能力去合理地想象奇点来临以后的生命形态。最重要的是，未来出现的智能将继续代表人类文明——人机文明。换句话说，未来的计算机便是人类——即便他们是非生物的。这将是进化的下一步：下一个高层次的模式转变。那时人类文明的大部分智能，最终将是非生物的。到21世纪末，人机智能将比人类智能强大无数倍36。但是，尽管生物智能在进化中已经不占优势，这并不意味着生物智能的结束，而应该说非生物形态源于生物设计。文明仍将以人类的形式存在——事实上，那时的文明在许多方面都将比现今的人类文明更加杰出，我们对奇点的理解也将超越生物起源。
奇点理论包括以下几条原则，本书的以下章节将对这些原则进行求证、推衍、分析和思考：
雷：为什么？你打算做什么？
莫利2004：听起来并非匪夷所思，机器是可以用来设计机器的。
雷：提高？
莫利2004：只是人类的知识吗？那机器的知识呢？
●纳米机器人也将改善被早期工业化污染了的环境。
查尔斯：基本上，这就是进化。
●一旦非生物智能将传统的人类与机器智能相结合，那么人类文明中的非生物智能部分就会持续地从机器的性价比、速度和容量的双倍指数增长中获益。
乔治2048：不会的，完全不会。
雷：当然，她也会比现在思考得快一百万倍。
●对于信息技术而言，它蕴含了指数增长的第二个层次：其增长的指数速率也在以指数级速度的增长。当一种技术的效率变得更高，就会吸引更多的资源向它聚合，使其发展更为迅速，这也正是第二个层次指数增长出现的原因。例如20世纪40年代的计算机产业由很多重要的项目构成。如今计算机产业的总值已高于一万亿美元，所以研发的预算也相对更高。
●技术变革的速度将不再受限于人类智能的增长速度。机器智能在反馈循环中不断提高自己的能力，并将远远超出无机器辅助的人类智能。
乔治2048：我是指把你蒙在鼓里，你会理解我所要做的事，如果你真的期待那一天。
雷：不，事实上，是微机器人现实。
●传统人类智能的优势包括模式识别能力和学习能力。在模式识别方面，人脑中的大量并行处理和自组织的特性是一种近乎完美的结构，该结构可以用于识别微妙的、不变的模型。人类也可以从已有的经验中得到的洞察力和推断力，对新知识进行学习，其中包括通过语言聚合信息。人类智能的一个关键能力是它可以创造面向现实的思维模型，并且可以通过改变模型的属性进行“假设”分析。
查尔斯：那么，机器确实能够改善自己的设计了。
●机器智能在设计、构造（也就是说机器智能并不会受到生物方面的限制，这些限制包括神经元之间切换的速度过慢或是颅腔空间过小等因素）以及持久的高性能等方面有足够的自由度。
●传统机器智能的优势在于，它可以存储数以亿计的事件，并且可以瞬间召回这些信息。
莫利2004：听起来主观上的时间会很长，你们机器要怎样利用这么多的时间呢？乔治2048：有很多事情要做，毕竟我能够接触到网上人类的所有知识。
●技术一旦发展到这个程度，计算机就能够融合传统的生物智能与机器智能的双重优势。
莫利2004：那么这个第六纪元呢？如果我仍然保持生物状态，我会以一种十分低效的方式用尽珍贵的物质和能源。你会想要把我变成10亿个虚拟的莫丽和乔治，因为他们中任何一个都比我思考得快得多。看起来完成这种转变会有很大的压力。
雷：但我们仅仅是改善一下细节，从本质上来说，基于DNA的智能是比较慢的，也是有限的。
莫利2004：我的助手会是你吗？
乔治2048：但是不会造成任何损失。
●纳米机器人可以操纵图像和声波，将虚拟现实带到现实世界中34。
乔治·瑟可2048：哦，我可以帮你完成这项任务。
乔治2048：绝对的。
莫利2004：嗯，通过逐步的……
查尔斯：所以机器会很快地设计自己的下一代。
乔治2048：你会有一个虚拟助手，事实上，你需要一个。
●非生物智能的另一个优点是：一旦机器掌握了一项技能，便可以高速重复使用这项技能，并且极其精准、不知疲倦。
莫利2004：那太好了，你会照顾好所有的事，有时你甚至不用告诉我。哦，也不必费事告诉莫利将要发生的事了，她无论如何也不会明白的，让我们把她蒙在鼓里，让她保持现在的快乐吧。
莫利2004：哦，给我点提示。
乔治2048：至少这是目前几年来大家的一致意见。
●在虚拟现实中，我们可以在身体和情感上成为两个完全不同的人。事实上，其他的人（如你的恋人）将能为你选择不同的身体，而不是由你自己来选择（反之亦然）。
莫利2004：你不要这么做，我完全有能力自己搞定它。我也许会删除一些文件，你知道，这些文件侵害了一些机器。
内德：或者是像灭绝的物种。
莫利·瑟可2104：你是指她？
莫利2004：不仅仅是我，我现在用的那些东西呢？我用过很多东西。
为了对奇点的概念有更进一步的认识，让我们来探索这个词本身的历史。“奇点”（Singularity）是一个英文单词，表示独特的事件以及种种奇异的影响。数学家用这个词来表示一个超越了任何限制的值，如除以一个越来越趋近于零的数，其结果将激增。例如，简单的函数y=1/x随着x的值趋近于零，其对应的函数（Y）的值将激增（见图1-7）。
●最终，整个宇宙将充盈着我们的智慧。这便是宇宙的命运（见第6章）。人类将决定自己的命运，而不是像机械力学支配天体力学那样，由目前的“非智能”来决定。
——欧文·约翰·古德，"Speculations Concerning The First Ultraintelligent Machine"，1965年
莫利2004：我会在一个微机器人中？
莫利2004：所以，基本上，我会拥有一切身边需要的东西。
雷：不过，你只是占有可用的物质和能量的一部分，保持你的生物性，这并不会明显改变奇点的物质和能量分配，况且保持生物遗产是很值得的。
●纳米技术使得纳米机器人的构建成为可能：这是一种在分子水平上设计的以微米计算（一米的百万分之一）的机器人，例如机器红血细胞33。纳米机器人会在人体发挥很多功能，包括延缓人体衰老（甚至将来它比生物技术更加出色，如基因工程）。
查尔斯：其中包含了大量的碳。
莫利2004：是的，我就是这个意思。
乔治2048：乐意为你服务。
●人类对情感的理解能力，以及作出适当反应的能力（所谓的情商），是人类智慧的重要表现，这些也将被未来的机器智能理解并掌握。人类的智能还体现在调整情绪反应、改善生物组织等方面。未来的机器智能也将具有形体（例如虚拟现实或是真实世界的投影），以便与世界互动，但这些纳米引擎创造的形体将比人类的身体更强大、更持久。因此，未来机器智能的情感反应会被重新设计，来反映其对现实设计的改造能力35。
