首页 » 心智社会:从细胞到人工智能,人类思维的优雅解读 » 心智社会:从细胞到人工智能,人类思维的优雅解读全文在线阅读

《心智社会:从细胞到人工智能,人类思维的优雅解读》16.5 雪崩效应

关灯直达底部

我们所讨论的那些方案如果和我们描述的一模一样,那么它们很少能真正起作用。它们大部分很快就会崩溃,因为实际上所有的智能体都会参与到不受限制的活动中去。设想每个典型的智能体都倾向于唤醒其他若干智能体,然后这些被唤醒的智能体又会去唤醒若干其他智能体,以此类推,活动的传播速度会比森林大火还快。但这项活动最终什么也无法完成,因为所有的智能体都会互相干扰,谁也无法获得它们所需资源的控制权。实际上,这差不多就是癫痫发作时会发生的事。

每个生物系统都会发生相似的问题。每个原则或机制都应该受到控制,只在限定的范围内运作。就连小小的基因团体也有一些方案,在每个细胞内指挥制造蛋白质时也会控制数量。在每种规模上,我们都发现了这样的模式。每种生物组织、器官和系统都受一些控制机制约束,一旦这些机制失效就会出现疾病。是什么保护了我们的脑不受这种活动雪崩的影响呢?在我们的智能组中,交互排斥方案很有可能是最常见的约束各种水平的活动方式,但同样也有其他防止爆炸的常见方案。

节约(conservation) :强迫所有活动都依赖于某种物质或其他可量化的事物,每次只能获得特定的量。举例而言,我们给所有的智能体都设定了电流限制,用以控制Snarc机器,这使得在特定的时刻,它们之中只有几个可以活动。

消极反馈(negative feedback) :提供一个“总结”设备评估智能组中的所有活动,然后按照与整体的比例向智能体广播“抑制”信号。这会把雪崩扼杀在摇篮中。

审查员与抑制器(censors and suppressors) :“节约”和“反馈”方案都倾向于进行无差别的控制。之后我们会讨论一些方法,它们在学习识别和避免之前产生过麻烦的特定活动类型方面更敏感,功能也更多。

这些方法足够简单,可以在小社会里应用,但它们的功能不够多样。在更复杂的社会中,我们需要学习解决困难的问题,这些方法无法解决可能出现的所有管理难题。幸运的是,在更大规模上建立的系统也许能够通过建构和解决自我管理的问题,把自身得到强化的能力应用于对自身的管理。在接下来的几部分中,我们将会看到这种能力如何在几个发展阶段中不断成长。所有这些并不一定需要在每个孩子的思维中独立发生,因为孩子所处的家庭和文化社群可以发展出更复杂的自我约束方案。所有人类社会似乎都在制定方针指导其成员如何思考,这些方针以常识、法律、宗教或哲学的形式出现。