古德的论文发表后一年,一篇短篇小说发表在1966年3月科幻期刊《模拟科学》(Analog Science Fiction)上。《书呆子快跑》这篇小说讲述了一个大脑的故事,由于被直接放进了计算机数据源之中,大脑的能力被人工增强了。这是科幻作家、数学教授及计算机科学家韦尔诺·文奇(Vernor Vinge)出版的第一本小说,小说名字直接源自“漫威漫画”(Marvel Comics)中的头韵玩笑。文奇随后成了一个成功的小说家,但他仍然以1993年的纪实散文《技术奇点即将来临:后人类时代生存指南》而闻名于世。这篇散文叙述了许多古德已经提出的超级智能机器的理念,但增加了时间轴。“30年内,我们就将获得创造超级智能的技术方法,”文奇写道,“之后不久,人类时代就将终结。”
“奇点”(Singularity)这个术语指的是机器在智能方面超过人类的那个点,它已经成了人工智能的一个参考,其被应用的普遍性不亚于“图灵测试”。通常人们认为这是文奇的功劳,但实际上使用这个概念的第一位计算机科学家是约翰·冯·诺依曼。在冯·诺依曼人生的最后10年里,他和波兰裔美国数学家斯坦·犹拉姆(Stan Ulam)有过一次会谈,他们共同参与了“曼哈顿计划”(Manhattan Project)。犹拉姆随后在回忆这次对话时指出,冯·诺依曼曾痴迷或者说担心“不断加快的技术发展与人类生活模式的变化,这看起来似乎接近了人类历史上某个必要奇点,到了那个时候,就我们所知,与人类有关的事务会难以为继”。
和古德一样,韦尔诺·文奇在其1993年的文章里并没有得出明确的结论。如果出现奇点,他承认它的影响可能是好的,也可能是坏的。“从某个角度看,其前景符合我们很多最幸福的梦想。”他写道:“(它很可能)营造一个无限美好的地方,让我们能够真正了解彼此,并了解最神秘的事物。但是从另一个角度,它也很可能造成最糟糕的情况。”
这是奇点这个术语如此贴切的一个原因。在将这个词用在人工智能方面前,“奇点”通常用于理论物理,用来描述黑洞中央的重力中心:在这个点上,物质自行坍塌。技术奇点就像一个黑洞,对人类思维而言完全深不可测。
由于这个原因,推测通用人工智能可能将我们引向何方成了一件非常有趣的事情,但是这个话题最终沦为科幻小说的素材。这有点像汽车之父亨利·福特的揶揄:在汽车诞生之前询问人们想要什么,最普遍的回答可能是“快马”。就像人们在曙光来临前围坐一团,猜测创造一种语言会将我们带向何处时,他们绝不可能想到推特标签的细微之处。因此,我们现在也想不到超级智能将如何看待世界,但是,毫无疑问它将改变世界。