我记得小时候在拉合尔时，我曾坐在父亲的脚边玩着我的美国特种部队士兵玩具，而我的父亲则坐在他最喜欢的椅子上。突然，他大声说了些什么。直到现在，我依然不知道他当时是在跟我说话还是在自言自语。
我父亲说：“你知道吗，西方国家非常善于分析，东方国家的思想家则主要关注融合。”
我让他解释了这句话的意思，而且我现在仍然清楚地记得他当时的解释。他告诉我，西方的科学家和思想家使用科学的方法，即观察现象，然后根据测量结果和数据仔细分析和解释所观察到的结果。在这方面，这些人是推理大师。东方的思想家则会融合观察结果来进行解释，常常不会完全理解或验证其背后的根本原因。他告诉我，在过去的几百年中，随着人类对科学和科学方法的了解，演绎推理过程，也就是分析，被证明有用得多。它能让我们获得可以应用、可以作为理论基础的深层次理解，并使我们获得更先进的技术。
东方的融合不具有这一价值。可能是因为其基础模块没有经过科学验证或被融合者所正确理解？因此，这种来自东方的融合思维产生的更多的是故事、传说和神话，而不是科学方法的基础。牛顿看到苹果，想到的是重力，而不是什么树神用苹果砸他的头来传递信息。
我的父亲告诉我，他预见到在不久的未来，西方的分析归纳法与东方由故事和寓言组成的融合法将结合。在这个即将到来的时代，所有知识基础模块将一起造福全人类。
对我来说，要让父亲的愿景变成鲜活的现实，最好的方法是采用他认为将会占据上风的思维方式。在刚进入青少年时期的某一天，我就开始朝这一方向努力。我尽力构想一个未来世界，在那里所有的科学都融为一体，所有的归纳和所有的知识基础模块都融合成了一座雄伟的知识金字塔。在金字塔顶端，我意识到，要想把这一切联系起来，还缺少一块重要的部分。这个部分就是终极问题：这一切是为了什么？我们已经将棋类归纳为包含算法的数学问题，人工智能已经能够在全球最古老和最复杂的游戏围棋中击败人类，但我们仍不知道我们最基本的生存目标是什么。这些动机来自何处？这个庞大的目标实现系统来自哪里？像人类这样的智能系统如何参与这类智力活动？
● ○ ●
要回答这些问题，我们首先并且必须转向物理学领域。我们知道是什么让物理系统能够运动，物理学中的力描述了物质之间的吸引和排斥关系。当物质达到一定的复杂性并且以特定的方式排列时，就会出现生物系统。最简单的生物系统是受本能驱使的机器，它们用能量交换优化物理目标的运动，比如树伸出树枝以接触最多的阳光。随着生物形式变得越来越复杂，其目标也变得越来越复杂。对于人类，社会学家和心理学家已经概括出多个需求和愿望模型，包括马斯洛著名的需求层次模型。值得注意的是，当这些需求和愿望以复杂的方式发生交互时，就会出现更复杂的突发动机，比如利他主义和道德体系。
人类生物系统中复杂的、由目标驱动的行为是否可能只是为了满足人类更基本的生理需求呢？在这些需求中，有些是与生俱来的并且是为了保护生物系统而产生的内在需求，比如睡眠和食物。另一些需求似乎范围更广，比如好奇心或避免枯燥。因此，生物形式中的基本动机与人类生物系统在环境中的巨大复杂性之间的交互产生了无数的突发动机。突发动机这一洞见是否可能成为终极目标生成引擎的基础，而这种引擎的抱负又是无限大的？根据这一猜测，预先设置的目的会错过这一点并限制智能系统的最终潜力和抱负。
作为一种动态系统，人工智能仍然处于初级阶段，以致无法产生目标，而我们人类常常使用科学、宗教和哲学框架思考宏大的目标。广义人工智能机器人将拥有投票选举权吗？它们会被允许结婚吗？当然，这些问题揭示了不断变化的人类社会的风俗习惯，但不幸的是，这些问题让我们无法就感知机器的智能进行更深入的探讨。人们可能会问，在广义人工智能“大爆炸”后会发生什么？当广义人工智能出现时，它是什么样子？这让我们想起了艾萨克·阿西莫夫（Isaac Asimov）最著名的科幻故事《最后的问题》（The Last Question）1。在阿西莫夫的故事中，当宇宙最后不复存在时，广义人工智能表示“要有光”，于是便有了一个新的开始。
正如阿西莫夫告诉我们的那样，我们在尝试理解感知机器时，会不可避免地使用我们目前文化想象中的图案、模型和比喻。无论我们信奉的是无产阶级、农民的权利、社会公正、全人类经济自由还是国王的神圣权力，我们所有人都深深地沉浸在我们的历史背景中。这些背景是人类文化的基础，与智能机器的目标完全无关。今天，我们大部分人都追求幸福，我们相信人生而平等、个人自由至高无上，但在生物学中，这些理念都不适用。它们只是神话。在生物学中，它们与“中世纪时，下等贵族应为基督放弃自己的生命”这一理念一样荒谬。我们会觉得，问一台感知机器是否有资格成为一名骑士很荒谬，而问人工智能是否有权投票选举呢？这同样是将我们自己的文化背景强加在机器身上。我们这些想法根本不是物理法则的结果。
由于没有广义人工智能的例子，我们就用狮群来代替举例吧。当一头新的雄狮成为狮群的头领时，它一般会杀死所有上一任头领的孩子。所有雌狮，包括幼狮的母亲也接受这一事实。如果用人类的法则来看狮群现象，它无疑是极其荒谬的，但这就是生物学行为，所有从未彼此遇到过或分享过土地的狮群都是如此。没有信仰体系、没有“狮子圣人”或“狮子教皇”到处制定集体行为规范。狮子不会遵守此类规定，它们只是一种动物。
我们在谈论广义人工智能的感知时，指的是比狮群聪明很多的实体，但是，如果我们关于正常文化和行为的认识，我们关于有意义和不相关事件的理解，都被用作认识广义人工智能的标准，那么我们也同样会感到荒谬。
可能除了专注于将这些理念强加给感知机器之外，我们更应该好好看待自己。人类的独特之处是什么？我们在即将到来的超级人工智能时代需要保留什么？
在本体论和玄学这两门研究现实基本性质的学科中，哲学家一直在思考像“圆”这样的属性是否能够独立于任何物体而存在。比如咖啡杯的圆是否能够独立于这个杯子而存在？同样，让我们来思考人性。从乐观的角度说，我们可能会认为人性包括宽容、爱和忠诚，但真的只有人类世界有这些吗？爱、宽容和忠诚属于人际关系范畴，并且体现在一些行为中：一个人必须面对另一个人才能产生宽容、爱或忠诚。如果我们这样认为，那么就表示可以将整个人性与这个框架分离。我们都看到过小狗依偎着母亲或者与兄弟姐妹愉快地玩耍。我们只需要朝起居室的窗外望去，就能看到鸟妈妈衔着虫子喂它的宝宝，等到宝宝吃完后自己才吃。简而言之，即便没有人类，这些概念依然存在。当我们要不惜一切代价地保护人性时，比如因人类的存亡问题愁眉苦脸时，我们真正保护的是这些属性，但这些属性有多少是只属于人类的？
当通过“涌现”这一概念进行检验时，这些所谓的“人类的”属性最后都会在任何生物或任何复杂的感知体中出现。我们将这么多属性划分成情感，但复杂的情感无非是复杂社会系统中的“涌现”行为。
显然，这种哲学追求让我们不知道该如何定义人类。人类有何独特之处？这些属性真的值得我们不惜一切代价去保护吗？我不确定这些问题的答案是什么。我所知道的是我们对人性的理解始终会根据我们的历史和文化而发生变化。在人性方面，我们可以选择越来越过时的理念，也可以接受未来的新理念。那些过时的人性理念只会给我们目前的职业、工作和目标造成麻烦。