现在回过头来看，图灵当时提出的观点不言而喻，就是强调可观察的外部行为是所有人工智能研究的核心，这一点我们在下一章将会提到。（我们有理由怀疑使用非正式对话的形式进行智力测试的效果，我们会在第4章讨论这一问题。）尽管如此，仍然出现了批评的声音，我们下面简要介绍一下哲学文献中反对图灵观点的一种声音。（如果你对于哲学争论没有兴趣，可以直接跳到下一章。）
20世纪80年代，哲学家约翰·瑟尔（John Searle）提出，理解（思维或智能）的内涵远大于可观察的外部行为，即便这种行为可以与所谓的模仿游戏一样涉及范围较广。以下就是他的论据（稍有修订）。
假设现有一款计算机程序能够通过图灵测试，即可以完全不受任何限制地进行人机对话。我们再假设这次对话使用的语言不是英语，而是汉语。因此，根据模仿游戏的规则，汉字（通过某种编码的形式）被输入该程序，随后该程序能够用汉语（以某种编码的形式）应答，作为输出。即使是精通汉语的人，仍然长期无法分辨输出信息的是机器还是人。
我们现在假设瑟尔自己不懂汉语，但是精通计算机编程（实际上他并不精通，但没关系）。他拿着一本小册子藏在一个房间里，这本手册里涵盖了该计算机程序的全部文本。房间外有人递给他一张纸，上面写着汉字，他虽然不明白纸上写的是什么，但是可以模拟计算机程序对此类情况的应对方法。瑟尔根据这本程序手册，跟踪观察程序如何应对这种情况，并将程序输出的应答写在一张纸上，交还给房间外的人，而他在整个过程中根本不明白纸上写的是什么意思。
简而言之，有个名叫约翰·瑟尔的人，他在自己的房间里接收汉语信息，然后通过这本手册，用汉语回复这些信息，而回复对汉语的使用与母语是汉语的人毫无差别（假定该计算机程序已通过图灵测试）。换句话说，在瑟尔身上，可观察的外部行为是完美的，但他却根本不懂汉语！因此瑟尔的结论是：仅确保行为正确是远远不够的，因此图灵的观点是错误的。
对此说法持反对意见的人认为，这种行为并非出自瑟尔本身，而是瑟尔与这本写有计算机程序的手册共同创造的结果。虽然瑟尔不懂汉语，但这个由瑟尔和这本手册一起组成的系统是懂汉语的，因此图灵的观点并没有错。对于上述异议，瑟尔的应答可谓简明扼要：假设他先把这本手册的内容记下，然后将手册销毁，那么就不存在所谓系统了，存在的只有瑟尔。因此，图灵的观点是错误的。
这就是中文房间理论的大概内容。
人们对此理论的反响如何呢？人工智能领域有人对此并不买账。这也可以理解，大家对人工智能领域中的哪种技术阻碍此类程序（假设其存在）的开发更感兴趣，而对我们在一个房间里用一个人就能准确地模拟这种程序的运行（虽然速度上，人可能只是程序的几百万分之一），并得出相关结论兴趣不大。
但是，就这类思想实验本身而言，还有一点需要考虑：我们如何能够确定，瑟尔没有通过记下这本手册的方式来掌握汉语？如果他以这种方式掌握了汉语，那么不懂汉语也能通过图灵测试的说法就站不住脚。因此我们必须要问：为什么我们要相信存在这样一本手册能够想瑟尔之所想，让他只需记下该手册的内容就不用学会汉语？
如果不深入了解手册中所谈到的这款程序，就很难对上述问题做出回答。我曾经提出，我们可以转而关注其他更为简单的行为模式，即数字求和。
我的设想如下。假设行为测试不要求能说汉语，而是要求将20个10位数字求和。如果一本手册中列出了20个10位数字及它们求和的所有可能的组合形式，有了这个，即便是不会算术的人也能在行为测试中得到正确答案。每当有人问到总和是多少时，都可以在书中找到正确答案，就像瑟尔用汉语回答问题一样。
但是，值得注意的是不可能存在这种手册。如果要满足所有数字组合，就需要包含10200个不同的条目，而我们的整个物质世界当中只有约10100个原子。
要进行测试，一本介绍加法运算表的英语小册子就堪当此任：首先做一个10×10的个位数加法表，然后进行两位数加法运算（可进位数），最后是多位数加法运算。这样的小册子绝对可以存在，而且只需几页纸就能说明问题。这种小册子的意义在于，对任何不会加法运算的人来说，只要能够记住书中的说明就能学会！
而这也足以让我们对瑟尔的中文房间理论产生怀疑。如果根本不存在这样简单到不用教人算术（具体来说就是20个10位数字的求和）就能对数字求和的手册，我们就不得不怀疑上文提到的汉语人机对话的说法了。
但是，这依然无法驳倒瑟尔。到最后，我们还是不知道如果真正背下瑟尔的手册会怎样，因为我们也不知道让不懂汉语的人用汉语进行人机对话会是什么样。所以，唯一可行的办法就是按照图灵所说，解决这些技术难题。