在“权衡证据”这个主题上有很多重要变体。我们的第一个理念就是数出有多少证据支持某个物体是一把椅子。但所有的证据价值都一样,所以我们可以通过给不同类型的证据赋予不同的“权重”来改进方案。
桌子也有四条腿和一个座位,我们如何防止这个椅子识别器把桌子当成椅子呢?方法之一就是安排权重。但如果已经拥有了一个桌子识别器,我们就可以用它的输出作为证据来反对把这个物体当成椅子,只要给它赋予负数的权重即可!人们应该如何决定每个特征应该被赋予多少权重呢?在1959年,弗兰克·罗森布拉特发明了一种具有独创性的证据加权机器,叫作“感知器”。它配备了一个流程,一个老师会告诉它,它所做的哪种区分是不可接受的,从而让它自动学会应该使用哪种权重。
所有的特征加权机器都有严重的局限性,因为尽管可以估量各种特征是否出现,但它们无法足够重视这些特征之间的关系。举例而言,在《感知器》(Perceptrons)一书中,西蒙·派珀特和我用数学方法证明了没有一个特征加权机器可以区分下列图案,无论我们用多么聪明的办法来加权。
左边的两幅图描绘的是相连的图形,也就是可以用一条线画出的图形。右边的两幅图是不相连的图形,需要用两条分开的线来画。下面这种方法可以证明没有一种特征加权机器可以认出这种不同之处。假设你把每张图都撕成一堆碎片。仅仅因为每一堆都包含着同样种类的图画碎片,我们无法知道哪一堆碎片来自相连的图画,哪一堆来自不相连的图画!每堆碎片都包含着四个直角,两个“线段的端点”,以及同样长度的水平线和竖直线。因此,通过“证据叠加”是无法区分这几堆图形的,因为所有关于各种证据间关系的信息都已经丢失了。