人工智能真正的危险是什么
人工智能不会控制和杀死人类，也不会让我们失去工作。但我真正担心的是，如今我们制造的机器人是在模仿人类理性的“机器思维”，而不是先天的“符号思维”。简单来说，这种差别就好像人类遇到灾难时会向神灵祈祷，或者围着火跳舞（以此驱逐厄运），而一个快没电的机器人永远不会这么做。
这为什么很危险呢？我们从何为“符号思维”与“机器思维”说起。
美国哲学家苏珊·朗格（Susanne Langer）1942年写的一本《哲学新解》（Philosophy in a new key）是对我影响最大的书之一。朗格的理论是，人类是符号的动物，我们一直在创造看起来跟“适者生存”原则背道而驰的庞大的符号体系。所有人类文明中广为传播的各种仪式、礼制及巫术等都是一种符号活动，如果从其他动物的视角来看，这些根本毫无意义。一些部落里的人们围着火跳舞，以此祈祷某事发生，动物可不会这么做。当动物想要一起繁育后代，它们直接进行繁殖即可，人类则需要精心准备婚礼，新人们通常需要在众多宾客前完成繁杂的程序。
创造一种符号一定有某种目的，但就人类来说，我们简直毫无止境，我们根本停不下来，我们的头脑不断在创造庞大的符号体系，很多时候是为了创造符号体系而创造符号体系。
复杂的传统婚礼看起来并没有什么实用目的，它远超出了我们生存的需要。甚至可以说，人类的语言作为一种沟通工具也太复杂了，它在我们生活中扮演了远超过沟通的角色。机器语言相对总是简单并清晰明了，做这个或做那个，不要做这个或不要做那个。而我们人类有时候会发表一段冗长的演说，表达的意思还模棱两可。
杰弗里·米勒（Geoffrey Miller）是我们这个时代最伟大的进化心理学家之一，他在2000年写的一本《求偶心理》（英文书名为The Mating Mind：How Sexual Choice Shaped the Evolution of Human，中文版暂无）中猜测，语言可能只是性炫耀的一种形式，沟通只是语言次要的用途。他将人类的语言比作孔雀多彩的尾巴。意思是人类的语言对人类之独特就犹如美丽的尾巴于孔雀之独特，试图教给黑猩猩人类的语言是毫无意义的，正如希望人类长出孔雀美丽的尾巴也是毫无意义的。
朗格认为，仪式和巫术等都是人类自发的行为，都是人类的大脑倾向于将所有事物都转换成符号的副产品。这种创造符号的习性会一直增长，直到符号不再有什么用处，甚至还有害处。英国哲学家伯特兰·罗素（Bertrand Russell）首先指出，语言成为沟通的首要形式的原因是，说话是经由身体的活动迅速产生大量符号的最经济的方法。
将某件事物“构思”成符号实际上是有好处的，从物理的角度来说，世界上没有两个人会看到同样一件事物（每个大脑都有轻微的不同），但所有人都可以就同一件事物形成一样的符号。就好像让两个人看同一个地方的地图，如果地图的画法稍微不同，两个人就找不到同一个地方，但如果两个人交换的是各自形成的地图的概念，他们就有可能找到同一个地方。
当我们认为两种情况很相似时，不是因为它们都给我们带来了一样的感觉，而是因为它们都属于同一种符号。伟大的语言学家爱德华·萨丕尔（Edward Sapir）同样认为，语言最初并不是为沟通而诞生的。丹麦语言学家奥托·叶斯柏森（Otto Jespersen）认为，唱歌和跳舞先于语言而生，沟通只是符号化的副产品，仪式、神话和音乐等则是人类创造的符号系统的绝佳的例子，信仰则是一种终极的符号体系。
然而，现代人的思维却大量轻视这些符号系统。我们的社会越来越基于理性的规章和制度而运转，越来越倾向于避免这些“无用”且“昂贵”的仪式。因为生活日益被设计成“高效”的。孩子们按照一定的程序被送入学校（幼儿园、小学、初中、高中、大学……），然后他们被期望找到一份好工作，甚至连娱乐活动都是高度有规则的，什么游戏要怎么玩等都需要规定得很清晰……这在我看来就是“机器思维”，一种必须遵循理性规则的思维。
想一下传统婚礼与现代世俗婚礼的不同，印度的传统婚礼需要花上三天，现代的政府婚姻登记处只要简单的婚姻登记就可以了。可以说，我们在基因里就被设定成了“符号思维”（沉溺于仪式与传说等的思维），然而，也不知何时，不知为什么，我们就越来越喜欢“机器思维”的社会了。
现在你可能会开始理解，为什么我说放弃人工智能领域基于知识的方法有些太早了。基于知识的人工智能完全是关于符号系统的，那是关于知识如何被呈现的，那就是知识本身。如果你“知道”某件事，那意味着你能创造关于它的符号。
遗憾的是，如今流行的人工智能（基于神经网络的深度学习）是关于“机器思维”的，不是关于“符号思维”的。“深度学习”擅长识别和执行任务，而不是创造复杂的符号系统。
为什么符号思维这么重要呢？首先，这就是我们本来的样子。这就好像你问：“为什么眼睛这么重要？”同样，如果你的大脑不再创造任何符号了，你也不再是人类了。
其次，这些符号系统定义了我们的价值观，告诉我们某些事情比其他事情更重要。比如，尊重和帮助你的邻居或长者比叫外卖和找停车位更重要。我们的“符号思维”告诉我们要礼貌行事，多行好事。道德在一个“符号思维”里是自然产生的。相反，“机器思维”只是简单地遵守设定好的规则和制度。如果没有一个告诉孩子们要尊重父母的规则，机器思维就不会尊重父母。也就是说，我们现在正在发展的人工智能和正在设计的机器人将不会有任何道德观念。
如果你还没觉得这有什么不妥，那我就要反问，我们创造机器的最终目的是什么？我想答案应该是，“让我们更幸福”。而现在，我们正处于将“智能”理解成“有用”的边缘：一台机器如果越有用，我们就认为它越智能。但有用不等于能让我们幸福。
那到底机器能为我们做点什么才会让我们感到更幸福呢？这个问题很难回答。因为我们经常将物质上的丰盛理解成幸福，结果往往是拥有之后感到更不幸福。在日本和斯堪的纳维亚半岛（挪威和瑞典）这些国民物质生活质量很高的地方，自杀率一直很高，但在一些特别穷困的国家，自杀率却一直很低。那么，到底是什么让人们真正感到幸福？
当我到非洲一些穷困的国家旅行时，我一直被那些微笑乃至大笑的人环绕着。而当我行走在西方世界一些所谓的发达城市的街头时，却几乎很少有人微笑。造成这种反差的原因是我们经常迷失于商品的价值。从耶稣到佛陀，很多伟大的智者早就已经警醒世人财富并不等同于幸福。这正是那些伟大的符号体系（信仰等）所能提供的：一条通往幸福的道路。这也是为什么舍弃“符号思维”是很危险的，而加速整个舍弃过程的人工智能和机器人从这个意义上来说，才变得真正很危险。
当人们问我关于人工智能是否让我们永生时，我也经常提醒他们，你们真的想要永生吗？这个星球上活得最久的是细菌和树，它们活得幸福吗？你想要成为一棵树吗？
机器能像我们一样思考吗
那么，我们有没有可能创造出像人类一样思考，像人类一样有感情的机器人呢
问题是，机器真的能思考吗？机器能有感情吗？这其实是一个哲学问题。如果你能做所有我可以做的事情，那我可以假设你会思考，但是我没有办法来证明。我不能跳到你的脑袋里证实你真的会思考。你可能像个僵尸一样，虽然能像我一样行动，但其实没有感觉，更没有感情。我永远都无法确定其他人能跟我一样“思考”。
如果你告诉我你会思考，那我只能相信你。我们可以制造一台会说“我认为”“我很开心”“我为她感到难过”等句子的机器。你又将如何证明这台机器是否真的能思考，或者是否真的有感情？
IBM已经在给“沃森”设计能够识别人们情感的程序，日本机器人“胡椒”也被设计了同样的能力，情感机器人时代已经到来。试图理解人类的情绪再做出相应行为的机器人将被发明出来。设计这样的机器人其实并不是特别难，只是因为实际可应用之处还非常少，所以这种“情感机器人”才没有像人脸和声音识别一样迅速发展。
有人假设，鉴于神经网络模拟人脑的技术发展得如此先进，机器人很快就能以我们的方式“思考”。然而，这种假设建立在对人脑工作原理的极大误解之上。首先，我们对人脑到底如何工作还所知甚少。如今的医学水平连一些最常见的脑部疾病都无能为力。完全理解人脑的运转原理可能需要花上几十年甚至几个世纪。所以，我们现在只有非常肤浅的脑部结构模型。其次，今天我们已有的人工神经网络只是接近这些肤浅的模型。人工神经网络只有一种神经递质（neurotransmitters），神经元之间只有一种沟通方式，而人脑已知的神经递质就有52种，真正有的可能更多；人工神经网络假设神经元只是一个0—1的开关，然而，神经系统科学家们发现，真正的神经元内部结构非常之复杂。
简单地说，如今我们的机器人要模拟人脑还遥不可期，因为我们距离完全理解人脑都还非常遥远。拥有一台等于人脑的机器更是无从谈起。如果未来有一天人类真的完全理解人的大脑了，我们或许可以尝试回答这个问题。
问题是，现在很多人早已习惯和沉浸于“机器思维”，他们喜欢高效而简洁的行动，喜欢大量的智能设备，也同样觉得自己很开心。是的，某种程度上，我们简直在创造一种新的人性。当然，每个人都可以自由地选择让自己开心的方式，你可以选择天天在家里玩游戏，也可以选择去旅行。在硅谷，有一段时间很多人确实都是“技术控”，他们就是喜欢宅在家里沉溺于游戏、社交网站等，但现在越来越多的人开始喜欢爬山，喜欢走出来跟人和自然交流。
不可忽略的事实是，现在的年轻人过于依赖智能设备。而这些电子设备并不比过去“智能”多少，年轻人却比他们的父辈、祖父辈“傻”多了，很多人连根据太阳识别方向的能力都没有。
年轻人有时候已经不动脑子了，如果智能设备能更多地用于一些让人更聪明的活动，而不是在线社交、购物和打游戏就好了。可能说智能设备让我们变“傻”不准确，但现在很多人确实乐于什么都不做，他们希望智能设备最好能把事情全都“想”好。人类一向都想要无所不能，如今大家却期待机器变成无所不能的，自己则甘于平庸。如果这是一种新的人性，我不确定它是不是我们真正想要的。
你可能会问，如果在未来，人工智能可以应用在更多一些让人变聪明的地方，是不是情况会有所不一样？这正是我担心的又一个问题，即人工智能的产业发展方向。迄今为止，人工智能最成功的应用是搜索引擎在电脑上个性化的展示广告。Facebook的前科学家杰弗里·哈默巴赫尔（Jeffrey Hammerbacher）对此颇为感慨，他曾写道，“我这一代最聪明的大脑思考的问题只是怎么让人们点击广告”。这确实很悲哀，人工智能可以在很多方面改善人们的生活，第一个应用却是让人们在网站上花钱。我担心人工智能在未来的应用将取决于谷歌这样的大公司到底如何使用它们的技术。
如今阅读网站内容的30%读者都是机器。当然，这些机器大部分都属于大公司。当我想到未来大部分内容还是人类来写，大部分读者却很快都会变成机器人，机器人读者的数量甚至会超过人类时，心里真的不是滋味。你在网上做的任何事情都会被机器记录下来和进行分析，机器会非常“专业”地读你写的任何内容，并不是因为它们真的喜欢你写的东西，只是因为你的个人生活对它们来说是一个商业机会，它们要看下你写的东西有没有用。这类读者的动机和行为都让人觉得有那么点邪恶。
今天我们生活的世界只是部分自动化。我担心的是，在一个完全自动化的世界里，我们的人性又会何去何从。
我担心的是，由于越来越多的机器取代了人的工作，人跟人之间的互动会日益减少。如今，谁给你现金？自动取款机。谁递给你火车票？自动售票机……我们倾向于从经济层面看机器取代人工后的好处：这种服务可以变成一天24小时，一周7天，服务成本还很便宜。虽然一份工作被取代了，但我们可以在其他地方创造更多的工作，因为我们在这些地方省钱了，等等。但是，这背后隐藏的一个重要的，也容易被忽略的信息是：每一次我周围的人被一台机器取代，就意味着我跟人类的互动机会减少一次。
人和机器互动的结果就是人类之间互动的减少，这种趋势已经在过去一个世纪里不断增长（我们早已忘了曾经有电话接线员，曾经有专门的打字秘书等）。这种趋势在人工智能时代还会继续加强，直到很多人，尤其是老人将只能跟机器互动。机器会打理你的房子，会帮你办杂事，会关注你的健康，还会跟你娱乐……这会极大地降低你跟其他人的互动，甚至包括你的家人（意味着家庭支持也会变得越来越不重要）。你将只有很少几个朋友，你的同事会是机器人，你的朋友也会是机器人。我们不禁思考，如果我们不再跟人类互动之后，人性到底会发生什么改变。