与明斯基和派珀特的断言相反的是,神经网络研究人员多年来一直认为,神经网络能够展现出新的能力,并且解决罗森布拉特感知器的问题,但前提是在网络输入和输出之间放置额外的“隐含”神经元层。不幸的是,没人知道如何训练这些多层神经网络。著名物理学家约翰·霍普菲尔德(John Hopfield)为具体应当如何做提供了建议。
霍普菲尔德对当时人工智能的主流形式是什么并不感兴趣。他说:“我从未深入研究过人工智能领域到底发生了什么。人工智能并不能解决现实世界里的问题。我认为没必要去了解它。”然而,多年以后,他一直苦苦追寻被他称作“需要用一生的时间去研究的问题”。由于对人类大脑十分感兴趣,他考虑的问题涵盖范围广泛,从灵长类神经解剖学到昆虫飞行的行为,再到大鼠海马的学习乃至阿兹海默症的治疗。有一段时间,霍普菲尔德对细胞自动机和自我复制的机器人的前景十分着迷。然而,几个月的研究最终还是走进了一条死胡同。
霍普菲尔德说:“放弃一个错误的思想十分困难,毕竟我们已经研究一年了。”但是,在计算机内部创造一个生命模型的想法却一直都在。他对一个想法十分着迷,即用神经网络完成大脑能够迅速且轻松完成但计算机却不能完成的任务。霍普菲尔德最终选择了联想记忆,联想记忆是指大脑如何以交互的方式工作,也就是看见一个人就能联想起他的名字,或者听到他的名字就能想起他的长相。联想记忆背后的数学运算使霍普菲尔德想到“自旋系统”的数学运算,该运算描述的是固体磁性的复杂形式。他的脑海中突然产生了一个想法。霍普菲尔德回忆道:“神经生物学和我所了解的物理系统之间突然产生了一种联系。一个月之后,我已经开始写论文了。”
1982年这篇论文发表后,一种全新的神经网络产生了。霍普菲尔德网络比罗森布拉特的感知器中的单层模拟神经元复杂得多。他的思想再次激发了人们对神经网络的热情,这也使他成为这一过程中出人意料的英雄。加州理工学院的一组追随者开始以“霍普集会”(Hop-Fest)的名义召开会议。霍普菲尔德的发现吸引了一些世界上最伟大的理论物理学家参与到神经网络的研究当中。该领域的研究人员多年来头一次感觉到热血沸腾。
然而,事情并没有我们想象得那么容易。正如我们在第一章中看到的,20世纪80年代早期是“专家系统”的天下,资金也是空前的充裕。尽管后来这些“专家系统”的发展将遭遇困境,但在当时却是十分强大,人们根本不认为它们会失败。世界领先的神经网络专家特里·谢伊诺斯基(Terry Sejnowski)当时正在普林斯顿大学读霍普菲尔德的博士,他回忆道:“我们当时好像是生活在恐龙时代的只有毛皮的哺乳动物,在这些长着麟甲的巨兽的脚下混日子,他们有数百万美元的机器和庞大的预算。那时,所有人都专注于计算逻辑,但是我们明白,他们忽视了推动人工智能向前发展所面临的真正困难。”
幸运的是,神经网络吸引了许多年轻且富有热情的研究人员,其中就包括圣地亚哥加州大学的认知科学家戴维·鲁梅尔哈特(David Rumelhart)和詹姆斯·麦克兰德(James McClelland),他们成立了一个“并行分布处理”小组,并产生了令人难以置信的影响力。
说到这里就不得不提到另外一个人,他就是杰夫·辛顿(Geoff Hinton)。