我们最复杂的创造显示了惊人的故障率。轨道卫星、望远镜、航天飞机、星际探测器、奔腾芯片、计算机操作系统等似乎都超过了我们通过常规方法进行有效设计和制造的极限。我们最复杂的软件(操作系统和电信控制系统)已经包含了数千万行代码。目前看来,我们不太可能生产和管理包含数亿或数千亿行代码的软件。32
首先,我们可能会问,雷指的惊人的故障率是什么。如前所述,很多重要的电脑复杂系统,如控制飞机日常自动飞行、着陆的系统,在医院监视重症监护室的系统,几乎从未发生故障。如果有人关心到惊人的故障率,就会发现那往往是人为的错误。雷提到英特尔微处理器芯片的问题,但由于这些问题非常微妙,几乎没有引起反响,而且很快被纠正。
还有一点也很重要,缺陷是任何复杂过程的固有特征,当然也包括人类智能。
正如我们所看到的,电脑系统的复杂度在不断扩大。此外,我们最前沿的努力是利用我们在人脑中发现的自组织模式来模仿人类智慧。在我们继续逆向设计人类大脑的过程中,我们会在模式识别与人工智能工具中添加新的自组织方法。正如我讨论过的,自组织方法有助于缓解对大到难以管理的复杂度的需要。我以前指出过,我们并不需要包含“数十亿行代码”的系统来模拟人类智能。
杰罗恩·拉尼尔、托马斯·雷和其他观察员都认为技术的高故障率是它持续指数增长的障碍。例如,雷写道: