需要广泛放弃的一个原因是它们描绘了一个关于未来危险的画面:这些危险将被释放到没有防备的世界中。事实上,我们的防御知识和防御技术会跟随危险一起变得更复杂和更强大。灰色黏性物质(纳米机器人的无限复制)将会遇到“蓝色黏性物质”(“警察”纳米机器人与“坏”纳米机器人展开斗争)。显然,我们不能肯定地说,我们都将成功地避免误用。但是,防止有效的防御技术发展的最可靠的方法是在一些领域中放弃对知识的追求。我们已经能够在很大程度上控制有害的软件,因为只能由负责任的从业者掌握知识。试图限制这种认识将会引起相当不稳定的局势。针对新的挑战做出的反应会更慢,天平会向更具破坏性的应用(如自我修改软件病毒)倾斜。
如果我们把控制设计软件病毒所取得的成绩与控制设计生物体病毒所面临的挑战相对比,我们会感到差别非常大。正如前文所述,软件业几乎完全不受管制。同样,生物技术显然不是这样的。虽然使用生物武器的恐怖分子不需要通过美国食品药品管理局提出他的“发明”,但是我们确实需要科学家开发防御技术来遵循现行法规,这样会减缓每一步创新的过程。此外,根据现行法规和道德标准,测试对生物恐怖分子人员的防御是不可能的。人们正在广泛讨论如何修改这些法规,使之允许动物模型和模拟仿真代替不可行的人体试验。这将是必要的,但我相信我们需要超越这些措施,加速发展急需的防御技术。
依据公共政策,接下来的任务是迅速发展必需的防御措施,其中包括道德标准、法律标准和防御技术本身。这显然是个竞赛。正如我所指出的,在软件领域,防守技术会迅速对攻击技术的创新做出响应。然而在医学领域,广泛的规章制度减慢了创新的速度,所以我们同样对生物技术的泛滥没有信心。在目前的环境中,当有人死于基因疗法试验时,相关的研究可能会受到严重限制。38生物医学研究保证尽可能安全是合理的需求,但我们完全扭曲了对风险的平衡。成千上万的人急需基因疗法和其他生物技术的突破性进展,但他们却无法得到救助,由于不可避免的风险问题而延误。
当我们考虑生物工程制造的病原体带来的新危险时,这种风险平衡方程将变得更加明显。现在需要的是公众态度的转变,他们应当能够容忍必要的风险。加快防御技术对于我们的安全至关重要。为实现这一目标,我们需要简化管理程序。同时,我们必须明确地在防御技术方面增加投入。在生物技术领域,这意味着抗病毒药物的快速发展。我们没有时间对出现的每一个新挑战都制定具体的对策。我们正打算开发具有更广泛的抗病毒药物的技术(例如RNA干扰),而且要加速发展。
我们之所以在这里解说生物技术,是因为它是我们现在面临的最近的门槛和挑战。而对于自组织纳米技术方法的门槛,我们需要针对这个领域的防御技术开发投入具体的力量,包括开发一个技术免疫系统。试想我们的生物免疫系统是如何工作的。当身体检测到病原体时,T细胞和其他免疫系统细胞就会迅速地自我复制来抵抗病毒入侵。纳米免疫系统会同样地工作在人体体内和外界环境中,系统将由纳米机器人哨兵来检测恶意自我复制的纳米机器人。一旦有威胁,防御纳米机器人有能力消灭迅速创建(最终自我复制)的入侵者,以提供一种有效的防御力量。
比尔·乔伊和与其一样的观察家指出,因为潜在的“自身免疫性”的反应,这种免疫系统本身就是一个危险(免疫系统纳米机器人可能会攻击它们应该维护的世界)。39然而,这种可能性并不是一个可以用于避免创建免疫系统的令人信服的理由。由于存在发展自身免疫疾病的可能,因此没有人会说人类没有了免疫系统就会变得更好。虽然免疫系统本身构成威胁,但是没有了它,人类不会活过几个星期(除非完全与环境隔离)。即使如此,就算没有明确地创建一个系统,纳米技术免疫系统的发展也会发生。软件病毒是已经发生的事实,建立免疫系统不是通过正式的宏伟设计的项目,而是通过增量式地解决每个新挑战并为早期检测研发启发式算法来完成的。我们可以预见,当面对纳米技术危险的挑战时,同样的事情也会发生。公共政策的重点将是增加对特定的防御技术方面的投入。
现在开发具体的防御纳米技术实在是言之过早,这是因为现在对于试图防范的东西,我们仅有一个总体的思路。然而,针对这个事件已经产生了卓有成效的对话与讨论,并鼓励在这些方面扩大投入。正如我上面提到的一个例子,为确保纳米技术的安全发展,Foresight Institute已经设计了一套基于生物技术准则的道德标准和策略。 40当1975年基因剪切研究开始的时候,两名生物学家——马克辛·辛格和保罗·伯格——建议暂停技术的研究,直到其所涉及的安全问题得以解决。原因似乎很明显,如果有毒基因植入诸如感冒之类易于传播的病原体中,将产生巨大风险。经过10个月的暂停,阿西罗马会议上批准了这些准则,包括身体供给和生物防范、对特殊类型实验的禁止和其他一些规定。由于严格遵守这些生物技术准则,30年来没有任何关于这个领域的事故报道。
最近,代表世界器官移植医生的组织暂停了把动物血管、器官移植到人类身上的手术。这样做是担心那些长期潜伏的、类似艾滋病病毒等异种病毒从猪或狒狒等动物身上传播到人类身上。遗憾的是,这种暂停也延缓了对病人的救生移植(人类免疫系统可以接受转基因动物器官),每年数以百万计的人死于心脏、肾脏和肝脏病。伦理学家马丁·罗斯布雷特建议用一套新的道德准则来解决延缓所带来的问题。41
针对纳米技术,道德辩论在具体的危险应用出现前的几十年就开始了。对于Foresight Institute来说,最重要的几个指导方针包括:
●“人造复制基因不能在自然的、不可控的环境中复制。”
●“不提倡在自我复制的制造系统中进化。”
●“医学营养治疗设备的设计应特别限制扩散并且提供任何复制系统的可追溯性。”
●“分子制造开发能力应该被严格限制,只有那些同意遵循规则的、负责任的人才可以拥有该能力。没有这样的限制,就必须终止进行相关产品的研发。”
Foresight Institute提出的其他政策包括:
●复制需要的材料不能从自然界获取。
●制造(复制)应和终端产品的功能分离。制造设备可以创造最终产品,但不能自我复制,并且最终产品应该没有复制功能。
●复制需要执行复制操作的代码,该代码经过加密和时间约束。前面提到的广播体系是该建议的一个例子。
这些指导方针和策略可以有效地防止意外释放危险的自我复制的纳米技术实体。但是,处理类似故意设计和释放这类实体是一个更加复杂和具有挑战性的问题。一个足够坚定并具有破坏性的对手可以攻破各层的防御。以广播架构为例,如果设计得当,每个实体没有获得复制代码就不能够复制,这个代码不能由这一代传到下一代。然而,这种设计只需简单的修改就可能绕过对复制代码的破坏,从而将其传递给它们的下一代。为了对付这种可能,有人建议将复制代码的内存限制成一个完整的代码的子集。但是,扩大内存会使这个方法失效。
另一种推荐的保护措施是加密代码,并在解密系统中建立保护措施,比如设置超时限制。然而,我们可以看到对于知识产权的非法复制的保护(比如音乐的非法拷贝)多么容易被打败。一旦复制代码和保护层剥离,信息就可以跳过这些限制被任意复制。
这并不意味着保护是不可能的。相反,每个等级的保护只对特定的复杂度有效。这表明我们要把不断发展防御技术当做21世纪最重要的事情,以保证它们比破坏技术快一步或更多步(或至少不落后)。
防御不友好的强人工智能。即使是像广播体系这样有效的机制也不能对抗强人工智能的滥用。广播体系设置的障碍只对缺乏智能的纳米工程实体起作用。然而,智能实体显然具有足够的智能,可以轻易克服这些障碍。
埃利泽·尤德克斯克已经分析了大量的模式、架构和道德规则,这也许有助于确保,一旦强大的人工智能够获取和修改自身设计,它仍然能够友好地对待生物人和维持原来的价值观。考虑到不能收回自我改善的强人工智能,尤德克斯克指出,我们需要“首先保证它们的正确性”,其初步设计必须保证“0个不可恢复的错误”。42
本质上不存在能对抗强人工智能的绝对保护措施。虽然这听起来很微妙,但是我相信,为不断前进的科学和技术进步维持一个开放自由的市场环境,以前进的每一步都要被市场接受,从而提供一个最具有成效的环境,以使技术体现人类的普遍价值观。正如我曾经指出的,强大的人工智能正随着我们的不懈努力而深入到我们人类文明的基础设施中。事实上,它将紧密嵌入到我们的身体和大脑中。正因为这样,它反映了我们的价值观,因为它将成为我们。试图通过秘密的政府计划控制这些技术,以及不可避免的地下开发,只会营造不稳定的环境,而且可能使危险应用占主导地位。
分散化。一个已经发生并将越发稳定的具有深远意义的趋势是从集中技术向分布技术的发展,从现实世界向上述虚拟世界的发展。集中技术涉及资源聚集,如人的聚集(如城市、建筑物),能源(如核电厂、液态天然气、石油油轮、能源管道)、交通(飞机、火车)和其他方面的聚集。集中技术容易受到破坏而发生灾难,而且它们往往效率低下、造成浪费并破坏环境。
而分布式技术往往是灵活、高效、相对环保的。典型的分布式技术是互联网。迄今为止,互联网没有遭受严重的破坏,并在继续向前发展,其健壮性和可靠性也在继续加强。如果某一个集线器或通道不能正常工作,信息可以简单地找到别的路线来进行传输。
分布式能源。在能源方面,我们需要摆脱现在我们所依赖的集中式的设施。例如,一家公司利用MEMS技术研发微燃料电池。43他们就像电子芯片一样被制造出来,但实际上这种能量存储装置的能量与尺寸比远远超过了传统技术的。正如我在前面讨论的,纳米技术的太阳能电池板可以以一个分布、可再生、清洁的方式来满足我们的能源需求。最终符合这些条件的技术会使每个事物都快速发展,从手机到汽车和住宅。这些分散式能源技术不容易引起灾难或遭到破坏。
随着这些技术的发展,把人们聚集在大型建筑和城市的需求会下降,人们将会分散地住在各自想住的地方,然后在虚拟世界聚集在一起。
在不对称战争时代的公民自由。恐怖主义袭击的性质及其背后组织所反映的人生观突出表现了公民自由与监管、控制方面的法律权益之间的冲突。事实上,我们的执法系统主要考虑的是安全问题,它假定人们的动机是维护自己的生活和福利。这一逻辑成为我们所有政策的基础,从地区级的保护到世界舞台的争斗。但反对意见认为,它和它的敌人的破坏性并不服从于这一论点。
对付那些不计较自身危险的敌人是很麻烦的,这已经引起了广泛的讨论,并且这种讨论愈演愈烈,风险也会持续升级。例如,当联邦调查局确定一个可能的恐怖组织,那么它将逮捕所有参与者,尽管可能没有足够的证据证明这些人有罪,甚至很可能这些人尚未犯罪。根据反恐战争中的相关规则,政府有权继续拘留这些人。