文明的重大进步几乎破坏了文明的产生。
——阿尔弗雷德·诺斯·怀特海德
这给我们带来了放弃的问题,这也是比尔·麦琪本等放弃主义的倡导者提出的最有争议的主张。我确实觉得在适当的水平放弃未来将面对的基因危险是一个负责任的和具有建设性的对策。然而,更精确地说,问题是:我们应该在什么层次上放弃技术?
举世闻名的“炸弹客”特德·卡钦斯基希望我们放弃所有的技术。31这既不可取也不可行。只有卡钦斯基才会提出这种毫无意义、毫无价值的策略。
然而其他一些观点虽然没有卡钦斯基这么莽撞,但却同样赞成广泛放弃技术。麦琪本的立场是,我们已经拥有足够的技术,应该停止进一步发展。在他的最新著作《Enough:Staying Human in an Engineered Age》中,他将技术比喻成啤酒:“一杯啤酒很好,两杯啤酒可能会更好,8杯啤酒,你几乎肯定会后悔的。”32这个比喻遗漏了一个重点,它忽略了人类世界的很多苦难,而我们可以通过科学的不断进步来减轻这些苦难。
虽然新技术像其他事务一样,有时可能会过量使用,但是最初产生它们的希望并不仅仅是使手机增加1/4或是垃圾邮件翻倍的问题。相反,它意味着用完善的技术去征服癌症和其他破坏性疾病,创造无处不在的财富去克服贫困,清除第一次工业革命对环境带来的影响(由麦琪本阐明的目标),并克服许多其他古老的问题。
广泛的放弃。放弃的另一个层次是放弃某些特定领域(例如纳米技术,人们认为这种技术太过危险)。但是,这样清扫式的放弃同样站不住脚。正如我前面指出的,纳米技术是所有技术微型化的长期趋势的必然结果。这远不是单一的集中的努力,而是无数具有不同目标的项目所共同追求的。
一位观察家写道:
工业社会不能改革的一个深层原因就是——现代科技是一个统一的系统,其中的各个部分彼此依赖,你不能去掉技术“坏”的部分而只保留“好”的部分。以现代医学为例,医疗科学的进展依赖于化学、物理学、生物学、计算机科学以及其他领域的进展。先进的医疗方法需要昂贵的高科技设备,只有技术先进、经济富裕的社会才能提供。显然,如果没有整个技术体系及与其相搭配的一切,将不可能在医疗上取得大的进展。
在这里我再次引用特德·卡钦斯基33的话。尽管有人可能会认为卡钦斯基不那么权威,但我相信,在认为收益和风险深度纠结这一点上,他是正确的。不管怎样,卡钦斯基和我都很清楚,这两者之间的相对平衡是我们对公司整体评估的一部分。无论在公共场合还是私底下,比尔·乔伊和我都曾就这个问题进行讨论。我们都相信技术会进步,也应该进步。我们需要积极关注技术的阴暗面。要解决的最具挑战性的问题是确定既可行又可取的放弃的粒度。
细粒度放弃。我认为正确层次上的放弃应是我们应对21世纪技术危机的对策中的一部分。一个建设性的例子就是由前瞻学会提出的道德准则,也就是说,纳米技术人员同意放弃那些能在自然环境中自我复制的物理实体的研发。34在我看来,这一准则有两种例外情况。第一,我们最终将需要提供一个基于纳米技术的行星免疫系统(自然环境中的纳米机器人对抗凶猛的自我复制的纳米机器人)。罗伯特·弗雷塔斯和我讨论了这种免疫系统本身是否需要自我复制。弗雷塔斯写道:“一个全面的监控系统连同预先放置的资源(资源包括高容量非复制性纳米工厂,这种工厂能够大量生产能应对特殊威胁的非复制性防御体)应该足够了。”35我同意弗雷塔斯的观点,在初期阶段增加防御体的预置免疫系统是足够的。但是,一旦强大的人工智能与纳米技术结合,由纳米技术制造的实体生态将变得高度复杂和多样化。我个人期望我们会发现防御型纳米机器人,他们需要有能力在合适的地方快速自我复制。第二,需要自我复制的纳米机器人探测器去探索太阳系之外的行星系统。
还有另一个有效的道德准则的例子,即禁止那些包含自我复制代码的物理实体进行自我复制。按照纳米技术专家拉尔夫·梅克尔所说的“广播架构”,这种实体必须从一个集中的安全的服务器中获得复制的代码,这样可以防止不良复制36。在生物世界,这个广播架构是不可能存在的,所以至少在一个方面,纳米技术可以比生物技术更安全。在其他方面,纳米技术可能更为危险,因为纳米机器人比基于蛋白质的实体更加强大,其智能化程度更高。
正如第5章所述,我们可以把基于纳米技术的广播架构应用到生物中。纳米计算机会增加和更换每个细胞的细胞核,并提供DNA代码。纳米机器人包含了类似核糖体的分子机制(描述细胞核外信使核糖氨基酸碱基对的分子),能够获取代码并产生氨基酸序列。既然我们可以通过无线消息控制纳米机器人,我们就能够关闭不必要的复制,从而消除癌症。我们可以按照需要制造特殊的蛋白质来抵制疾病。我们可以纠正DNA错误,更新DNA代码。下面我会进一步评论广播架构的优点与弱点。
处理滥用科技。考虑到科技能减轻疾病、摆脱贫困、清理环境,那么广泛的妥协是和经济的发现相违背的,在道德上也不正确。如前面所述,这只会加剧危险。安全管理(细粒度的放弃)才是适用的。
不过我们还需要简化管理过程。目前在美国,新的卫生技术获得食品药物管理局的批准需要5~10年的时间(与其他国家基本相似)。与新疗法的风险相比,阻止可能拯救生命的治疗的危害(例如,因为延误治疗心脏病,美国每年有100万人丧失生命)显得微不足道。
其他的防护方法包括监管机构的监督,特定免疫对策技术的发展,以及执法机构的电脑辅助监视。很多人不知道情报机构已经使用了高级技术,例如使用关键字自动定位来监管电话、电缆、人造卫星和互联网交流。随着社会进步,我们需要在隐私权和防止强大技术被恶意使用之间寻求平衡,这将成为许多重大挑战中的一个。这也是“加密门”(其中执法部门将有机会接触其他安全信息)和联邦调查局的食肉兽电子邮件监听系统引起争议的原因。37
作为一个测试案例,我们可以从近年来对技术挑战的处理中得到一些安慰。现在存在一种新的能自我复制的非生物实体:计算机病毒,这在几十年前还不存在。当这种破坏性的入侵形式第一次出现时,就有人表示了强烈的担心,计算机病毒会变得更加复杂,有可能破坏它们生存的电脑网络媒介。然而,这种“免疫系统”在应对这一挑战时已非常有效。虽然破坏性的自我复制的软件实体确实不时地造成破坏,但跟我们从计算机和通信中获得的利益相比,这只是很小的一部分。
有人可能会反驳说,计算机病毒并没有像生物病毒和破坏性纳米技术那样的致命因子。事实并非总是如此:我们依靠软件来运作911呼叫中心,监测重症监护室的病人,控制飞机飞行与着陆,在军事行动中操作智能武器,处理金融交易,经营市政公共事业,以及完成许多其他的关键任务。在某种程度上,软件病毒还没有造成致命的危害。不过这个发现却加强了我的论证。电脑病毒通常不会使人类致命的事实意味着更多的人愿意创建和发布它们。大多数制造软件病毒的人如果认为该病毒能杀死人,就不会发布。这也意味着我们对危险的反应不需紧张。相反,如果面对大规模致命的自我复制的实体,我们的反应会紧张得多。
尽管软件病毒仍然令人担忧,不过当前的危险主要是在干扰级别上。请记住,我们在清除病毒上所取得的成功发生在一个没有规则而且从业者不需要认证的行业中。不规范的庞大电脑行业也卓有成效。有人会说,在人类历史上,它们在技术与经济上所取得的成绩已经远远超过了其他行业。
不过软件病毒和病毒防护之间的战争永远不会结束。我们越来越依赖于执行关键任务的软件系统,能自我复制的软件工具的复杂性和潜在的破坏性会继续升级。当软件在我们的大脑和身体中运行并控制世界上纳米机器人的免疫系统,这些风险将变得更加巨大。