●为了获得上述对建立政治资金的支持，就必须提高公众对这些危险的认识。当然，由于危险意识的淡薄和不明就里的反科技的存在，我们还需要让公众认识到不断进步的技术所带来的好处。
莫利2004：所以一个软件病毒能够将纳米机器人免疫系统转变成潜在的破坏者？
●情报机构和警察部门将在防范绝大多数潜在事故威胁中起到至关重要的作用。他们需要最强大的技术支持。例如，再过几年，尘埃般大小的设备将可以执行侦查任务。当我们到达21世纪20年代，软件将在我们的身体和大脑里运行，政府部门可以随时合法地监测这些软件流。很明显，可能会有人滥用这种权力。我们需要找到一个折中的办法，既可以防止灾难性事件的发生，又可以保护我们的隐私和自由。
莫利2004：这使我感到相当无奈。我的意思是，当所有好的和坏的纳米机器人决斗出来，我就是一个不幸的受害者。
莫利：至少我有表达意见的机会和选举权，进而影响外交政策问题。
●为纳米技术确定安全准则和道德准则的努力应该继续下去。随着我们越来越接近分子制造，这些准则必然会更加详细和完善。
雷：我们自己的生物免疫系统也有一些问题。我们的免疫系统相对强大，并且如果带给我们的是免疫性疾病，那也是很危险的。但我们还是需要免疫系统的。
内德·路德：猜想它是站在我们这边的。
最紧要的建议就是增加我们在防御技术方面的投入。由于我们现在已经处于基因时代，所以投入应该大部分放在（生物）抗病毒药物治疗方面。我们有非常适合这项工作的新工具。例如RNA干扰可以用来阻止基因表达。几乎所有的感染（包括癌症）都依赖其生命周期中某个时刻的基因表达。
雷：这不是一个新现象。在2004年，我们对处置世界上数量庞大的核武器的影响是什么呢？
莫利2004：我也这样认为。
雷：纳米机器人传播的浓度非常低，每1015个碳原子中只有一个，所以它们会被平均地散播。因此，破坏性纳米机器人的传播速度不会是一个限制因素，因为它们在到达指定位置之后会进行自我复制。假如它们跳过这个隐形阶段，从单一点向外扩散，这种蔓延就会被人注意，并且会被相应地减缓。
●目标明确并有针对性地暂时停止某项研究工作，就像1975年发生在基因学领域的暂停一样。但是这种暂停对纳米技术来说并不是必需的。在技术主要领域的广泛放弃只会延缓新技术朝有利方面发展，继续人们的巨大痛苦，并且实际上会使危险恶化。
雷：没有理由因此改变，提供一个可靠的纳米免疫系统将是21世纪20年代到21世纪30年代的重大政治事件之一。
●应该出资建立一个全球计划，用来对未知或不断变化的生物病原体的随机血清进行秘密监测。诊断工具可以快速确定未知蛋白或核酸序列的存在。防御的关键是智能，而且这样的方案可以为即将发生的传染病提供宝贵的早期预警。公共健康组织提出类似的“病原体哨兵”计划已经很多年了，但是他们从未得到足够的资金支持。
雷：是的。
早日使用防御技术需要安全地引导纳米技术（N）和机器人技术（R），这方面的努力应该得到支持，并且由于我们已经更深入地了解了制造分子和强大人工智能的可行性，因此这方面的努力更应该大幅度的增强。一个附带的好处就是加快研制有效治疗传染病和癌症的方法。在国会之前，我就已经论证了这个问题，提倡每年投资数百亿美元（小于国内生产总值的1%）来解决这个新的公认的对人类生存的威胁。
查尔斯：那么免疫系统机器人和恶意纳米机器人完全一样了？我指的是设定生物量的第一阶段。
莫利2004：好吧，我在无人知晓的情况下再次运行——你知道，一个坏的纳米机器人正在悄无声息地部署，实际上并没有扩大，直到它们在全球蔓延的时候，它们就可以摧毁任何事物。
雷：好消息是它将保护我们避免恶意纳米技术的伤害，因为它足够智能，可以帮助我们使防守技术超前于破坏技术。
雷：你是指黑客？
莫利2004：那么有关强人工智能呢？
●一个引起争议的当代政治问题，是否需要对风险采取先发制人的打击。这些措施将一直引起争议，但显然是需要的。核弹可以在几秒钟之内摧毁一座城市。基于生物技术或纳米技术的可自我复制的病原体可以在几天到几周之内摧毁人类的文明。我们总不能等着大规模军队或者其他不良意图暴露才开始采取保护措施。
●这些危险是跨越国界的，当然这已经不再新奇。生物病毒、软件病毒、导弹早已跨越了国界。国际合作在抗击SARS时起到了至关重要的作用，并且将在面对将来的挑战中扮演重要的角色。全球性的组织，例如在抗击SARS时起到了协调作用的世界卫生组织，都需要被加强。
查尔斯：是的。如果免疫系统软件被黑客修改，就会产生无止境的自我复制吗？
莫利2004：我猜不会太久。如果坏的纳米机器人所占的比率仅是1000兆之一，那么纳米免疫系统如何将它们找出来？
雷：是的，那好，我们不得不很小心地对待它们，是吧？
技术仍将是一把双刃剑。它象征着用于所有人类目的的巨大力量。GNR将会提供办法克服自古就存在的一些问题，如疾病和贫困，但也可能被破坏性意识形态利用。我们除了加强防御之外别无选择，因为我们可以运用这些飞速发展的技术来推动人类的价值观，尽管对这些价值观人们明显缺乏共识。
雷：因为指数增长的性质，巨大的破坏将在几分钟后发生。你的观点很有用。在任何情景下，如果没有纳米免疫系统，我们就没有机会。很明显，我们不能等到破坏的90分钟循环开始时再思考如何创造一个免疫系统。这样的系统可以和我们人类的免疫系统相媲美。没有它，人能活多久？
——赛斯·舒斯塔克
雷：它们需要这种能力，否则它们无法跟上病变纳米机器人的复制步伐。有人建议将保护性免疫系统机器人的生物质保持在一定浓度，但是一旦坏纳米机器人超过这个浓度，免疫系统就会失败。罗伯特·弗雷塔斯提出不能复制的纳米工厂，这个工厂能在需要时生产保护性纳米机器人。我想这种方式一时会有作用，但最终这种防御系统需要能复制自身免疫能力，以跟上新出现的危险的步伐。
雷：这是有可能的，公平地讲，软件安全将成为很多人类机器文明层次的关键问题。因为一切都是信息，保持我们防守技术的软件完整性对我们的生存至关重要。即便在经济层面，保持创造信息的经济模型对我们的物质生活也至关重要。
雷：但免疫系统的纳米机器人应该保护我们，而不是伤害我们。
●我们需要精简基因技术和医疗技术方面的监管过程。这些制度不能阻碍技术的恶意使用，但却大大地推迟了必要的防御。如上所述，我们必须更好地平衡新技术（例如新药物）带来的风险和已知的拖延带来的伤害。
查尔斯：我觉得软件可以被修改。
我们怎样确保既拥有GNR深刻的好处又减轻其危害性？在此让我们回顾解决那些包含GNR风险的建议方案：
雷：我们人的免疫系统同样有这个问题。免疫系统一旦检测到哪怕仅仅是一个外来的蛋白质，都会引起快速的反应，所以当病原体达到临界水平前，免疫系统已经很有效了。我们的纳米免疫系统需要同样的能力。
莫利2004：那么我们将如何保护不受伤害？当它们开始第二阶段时，我们只有大约90分钟的时间，如果想避免巨大损坏，我们的时间会更少。
●上述这些方法还不足以对付病变的R（强人工智能）带来的危害。在这个方面，我们的主要策略应该是最大程度上使得非生物智能反映我们的价值观，包括自由、宽容以及对知识和多样性的尊重。为了做到这点，最好的办法就是在当今社会推动这种价值观的前进。这听起来的确很模糊。但是在这个领域，纯粹的技术策略是不可行的，因为措施是某一级别智能的产物，但总有与之相比更强大的智能能够找到方法来规避措施。我们正在创造的非生物体将会在我们的社会扎根并反映我们的价值观。这种生物变革阶段包括将非生物智能和生物智能紧密结合起来。这将扩展我们的能力，并且这些更强大智能的应用将会受它们的创造者的价值观所支配。生物变革时代将会被后生物时代所取代，但是我们希望我们的价值观仍然发挥作用。这个策略绝不是万无一失的，但这是我们影响未来的强人工智能的主要手段。
从本质上说，我们来自金鱼，但是那（不）意味着我们回头杀死了所有的金鱼。也许（智能机器人）会一周饲养我们一次。假如你有一台拥有比人高出10～18倍的智商的机器，难道你不想让它来管理，或者至少控制你的经济？
查尔斯·达尔文：不要告诉我，免疫系统纳米机器人要有自我复制的能力？
