2003年，辽宁省高级人民法院对刘涌等涉嫌组织和领导黑社会组织案件作出了终审判决，改判刘涌死缓。判决生效后，引起了社会各界的广泛关注。其中，有关刘涌是否遭受刑讯逼供、对侦查人员刑讯逼供行为应否适用非法证据排除规则等问题，引发了一些激烈的争论。大多数人的意见是，辽宁省高级人民法院以“不能从根本上排除刑讯逼供”为由，对刘涌改判死缓，这是没有法律依据的。但也有人认为，对刑讯逼供行为采取排除非法证据的制裁方式，容易带来放纵犯罪的后果。“谁采取了刑讯逼供，就应对谁予以制裁”，法院完全可以采取追究办案人员个人责任的方式解决刑讯逼供问题，而没有必要将被告人有罪供述予以排除。在社会舆论的强大压力下，最高人民法院对此案主动启动了刑事再审程序，对刘涌改判死刑立即执行。最高人民法院的裁判意见是：
对于再审被告人刘涌及其辩护人提出的公安机关在本案侦查阶段存在刑讯逼供的辩解及辩护意见，经查，庭审中公诉人出示的参与刘涌一案的预审、监管、看守人员的证言证明，公安人员未对刘涌及其同案被告人刑讯逼供；辽宁省人民政府依法指定的鉴定医院沈阳市公安医院2000年8月5日至2001年7月9日对刘涌及其同案被告人先后进行的39次体检病志载明，刘涌及其同案被告人皮肤粘膜均无出血点，双下肢无浮肿，四肢活动正常，均无伤情。刘涌的辩护人在庭审中出示的证明公安人员存在刑讯逼供的证人证言，取证形式不符合有关法规，且证言之间相互矛盾，同一证人的证言前后矛盾，不予采信。据此，不能认定公安机关在侦查阶段存在刑讯逼供，刘涌及其辩护人的辩解和辩护意见，本院不予采纳。（注：有关刘涌案件的具体情况以及三级法院对刑讯逼供问题的裁判情况，读者可参见最高人民法院所作的（2003）刑提字第5号刑事判决书，载《法制日报》2003年12月24日，第2、3、4版。有关的评论可参见陈瑞华：《判决书中的正义——从刘涌案件改判看法院对刑讯逼供的处理问题》，载《政法论坛》2003年第5期。）
这一案件最终以刘涌被改判死刑立即执行而告终。但是，最高人民法院的判决书不仅没有解决对侦查人员刑讯逼供所得的证据能否予以排除的问题，反而给后来类似案件的审理留下了不少难题。2010年，最高人民法院终于下决心解决刑讯逼供问题，通过颁行两个刑事证据规定，正式确立了非法证据排除规则。2012年修订的《刑事诉讼法》还将非法证据排除规则正式确立于国家基本法律之中。根据这些法律规定，对于侦查人员采取刑讯逼供等非法手段获取的被告人供述，法院不得将其采纳为定案的根据。法律还确立了非法证据的排除程序，允许被告人及其辩护律师向法院申请排除非法证据，法院经过初步审查，对侦查程序的合法性存有“疑问”的，可以启动非法证据的调查程序。而在非法证据调查程序中，公诉方需承担证明侦查行为合法性的责任，必须要将这一点证明到最高的标准。法院对于侦查人员是否实施非法取证行为存有疑义，或者不能排除非法取证可能性的，一律作出排除非法证据的裁决。
非法证据排除规则在中国法律中尽管建立起来了，但是，对于侦查人员采取刑讯逼供等非法手段所获取的非法证据，究竟能否排除于法庭之外，这一点并没有在司法界形成普遍的共识。自2010年最高人民法院实施非法证据排除规则以来，各级法院真正将公诉方的非法证据予以排除的案件实属罕见；而因为排除非法证据而作出无罪裁判的案件，则更是凤毛麟角。毫无疑问，非法证据排除规则在我国刑事司法中面临着较大的实施障碍。
其实，在法律科学中，非法证据排除规则属于一种特殊的制裁方式。如果说传统的法律制裁属于实体性制裁的话，排除非法证据则带有“程序性制裁”的性质。现代社会的绝大多数法律，包括民法、行政法和刑法等在内的“实体法”，所确立的都是实体性制裁制度。实体性制裁的基本方式是追究违法者个人的民事责任、行政责任或者刑事责任，使得那些民事侵权者、违约者承担民事赔偿责任，行政违法者受到行政处罚，构成犯罪者被定罪科刑。与此不同的是，程序性制裁所追求的则是宣告无效的后果，也就是那些受到程序性违法行为之直接影响的证据、起诉、判决、行为以及羁押命令，不再具有法律效力，也不能产生其预期的法律后果。可以说，“宣告无效”就是程序性制裁的独特追究责任方式。
例如，非法证据排除规则的实质在于非法证据被宣告无效，也就是不再具有可采性或证据能力；终止诉讼制度的适用所带来的则是有关起诉无效，有关该项起诉的刑事诉讼程序不再继续进行；撤销原判的实质则是原审判决无效。甚至按照大陆法中的诉讼行为无效理论，被宣告无效的诉讼行为将被视为“从未发生过”，任何一方都不得在诉讼中引用该项诉讼行为作为支持本方诉讼主张的依据。
法院将侦查人员非法所得的证据予以排除，就属于这种宣告无效的制裁方式。对于这种程序性制裁方式，几乎所有国家都经历了一个从排斥到逐步接受的过程。而在理论上，对这种制裁方式加以批评的声音则从来没有中断过。
反对排除规则的首要理由，是警察以侵犯公民宪法权利的手段所获得的证据，尤其是通过非法搜查而取得的实物证据，其可靠性和关联性往往是没有问题的；法官将这种证据排除于法庭之外，在很多案件中都削弱了检控方指控的基础，甚至直接导致起诉的撤销或者无罪裁决的产生。这必然使相当多的有罪被告人逃脱法网。当年，美国联邦最高法院卡多佐大法官曾对非法证据排除规则提出过著名的质疑：“因为警察违法，就放纵犯罪？”而刑事司法的经验表明，在那些警察过于热心地从事调查的案件中，排除规则更明显地会带来放纵犯罪的效果。1990年5月7日的《华尔街日报》曾有报道称，自1961年联邦最高法院作出Mapp案的判决以来，美国全国的暴力犯罪出现了惊人的增加，其中，“谋杀案件增长了一倍，强奸案件增加了三倍，而抢劫案件则有四倍的飙升”。（注：Wall Street Journal，May 7，1990，at A14，Col.1.）
一些法学界人士则认为排除规则直接带来大量犯罪者逃脱法网的恶果：
排除规则的首要“代价”，是那些逃避有罪裁决的犯罪人的数量增加，而原因仅仅在于不利于他们的证据被排除。按照保守的估计，仅仅因为（法官）以第四修正案为根据批准有关排除证据的动议这一点，就导致每年有1万名犯有重罪和5.5万名犯有轻罪的人逃避了法律的制裁。（注：Slobogin，“Why Liberal Should Chuck the Exclusionary Rule”，University of Illinois Law Review，1999，p.363.）
排除规则既然有如此大的负面作用，那么它在抑制警察违法方面究竟是否发挥了积极效果？相当多的法官对此也持否定态度。美国联邦最高法院前任首席大法官伯格曾在1971年的一份判决中发表过反对意见：“指望在刑事审判中排除可靠证据的方法”，来确保宪法第四修正案得到实施，“这不过是一个可望而不可即的梦想”；迄今为止，“还没有任何经验性的证据证明该规则对于执法官员的违法行为实际起到了抑制作用”。（注：Wayne R.LaFave and Jerold H.Israel，Criminal Procedure，second edition，China Law Press，1999，p.108.）
另外，批评排除规则的人士还提出了其他一些反对理由：排除规则的适用迫使大量调查的警察不得不在法庭上作伪证，以反驳被告人提出的有关动议；排除规则导致大量有罪者逃脱法网，容易削弱公众对司法制度的信任和尊重；排除规则事实上不仅没有使那些违反宪法的官员受到惩罚，反而通过放纵犯罪而惩罚了被害人乃至整个社会；排除规则的适用使犯罪人从警察违法中获得巨大的利益。（注：Stephen A.Saltzburg and Daniel J.Capra，American Criminal Procedure:Cases and Commentary，Sixth Edition，West Pub.Co.，2000，pp.454—456.另参见Stuntz，“The Virtues and Vices of the Exclusionary Rule”，Harv.J.L.and Pub.Pol.，Vol.20，1997，p.443。）
在美国，有不少人士提出过废除非法证据排除规则，而代之以新的制裁方式的改革方案。一些法官和学者主张以民事侵权诉讼和行政纪律惩戒制度来取代排除规则。
例如，美国联邦最高法院前任首席大法官伯格就认为，应当通过立法来建立一种特别的法庭，使得那些受到无理搜查和扣押的受害者，可以有更大的机会从政府部门那里获得经济赔偿。这是取代排除规则的最好救济方式。
又如，有的学者指出，如果将抑制非法侦查行为作为主要目标的话，那么，排除规则显然不是一个有效的方法。事实上，“改变或者抑制某一行为是一件非常复杂和困难的工作”。尤其是在这种行为得到同事、上级甚至社会公众或明确支持或默许的情况下，纠正这一行为就显得格外困难。“如果不建立一种消除这种行为动机的强大机制，这种行为还将会继续”。因此，一种能够使违法官员及其所属的机构都能受到直接制裁的制度，显然要比排除规则在抑制违法行为方面更加有效。他所设想的这种有效救济制度有以下几个核心要素：一是为所有违宪行为所支付的损害赔偿金，根据普通官员的工资而确定；二是在损害赔偿金总额中确定违法官员的个人责任；三是在损害赔偿金总额中确定违法官员所属部门的责任；四是各州为违宪行为的受害者支付法律援助费用；五是建立一种专门受理这类案件的法庭。（注：Slobogin，“Why Liberal Should Chuck the Exclusionary Rule”，University of Illinois Law Review，1999，p.363.）
再如，美国耶鲁大学法学院的一位学者进一步指出，只要对侵权救济制度作出一系列的改革，这一制度就可以提供有效抑制警察违法行为的能力，排除规则也可以借此得到废除。他提出了五个方面的改革建议：一是建立政府部门为警察非法行为承担民事责任的制度，使得侵权诉讼的被告真正有经济支付能力，并且在政府政策制定层面上发挥抑制违法的作用。二是建立高额经济赔偿制度，扩大惩罚性赔偿的适用标准，在赔偿侵权行为受害者的同时，使一部分额外的赔偿金逐渐集中起来，从而建立“第四修正案基金”（Fourth Amendment Fond）。该基金可用来教育美国人民了解第四修正案的意义，并对犯罪的受害者和警察侵权的受害者予以必要的抚慰。三是被侵权者即使提出的是小额赔偿诉讼，其律师费也应被列入政府法律援助的范围，同时就此建立专门的集团诉讼制度。四是适当放宽受害者在申请法院强制令方面的现有限制。五是一些必要的行政救济管道应当建立起来，使得一部分侵权案件可以得到迅速快捷的解决，而不必非得经过民事诉讼这一正式途径。（注：Akhil Reed Amar，“Fourth Amendment First Principle”，Harvard Law Review，Vol.107，1994，p.757.）
那么，诸如此类的改革建议究竟命运如何呢？从美国最近三十多年来的法律改革情况来看，这种通过建立特殊的民事侵权之诉或行政制裁制度来替代排除规则的改革努力，并没有取得成功。美国联邦最高法院尽管不断地增加了排除规则的例外，但还没有任何迹象显示，该法院会将非法证据排除规则彻底废止。
反观中国的司法现实。针对非法侦查行为，法律确立了国家赔偿、追诉刑事责任和行政纪律制裁等多种“实体性制裁”方式。但从实施效果来看，这些实体性制裁措施都有一个共同的特征：它们只针对那些情节严重、足以构成实体性违法的程序性违法行为，而对一般的程序性违法行为则根本无法起到抑制作用。也就是说，程序性违法行为只有在恰巧符合实体性违法之构成要件的情况下，才可能受到实体性制裁。但在绝大多数情况下，刑事诉讼中的程序性违法根本就不可能构成犯罪、民事侵权或者行政违法。
以刑讯逼供的情况为例。根据刑法的规定，侦查人员在侦查讯问中对嫌疑人采取刑讯逼供行为，造成严重法律后果的，才会构成刑讯逼供罪。所谓“严重后果”，通常是指造成了嫌疑人人身伤亡，或者酿成了冤假错案的后果。相反，如果警察的刑讯逼供行为既没有造成人身伤害或死亡，也没有造成冤假错案的发生，那么，这样的刑讯逼供行为就几乎不可能受到任何形式的刑事追究。但在刑事诉讼中，那些造成严重后果的刑讯逼供只占据了极小的比例，绝大多数情况下的刑讯逼供都是无法受到刑事追究的。
那么，对这些无法受到刑事追究的大多数刑讯逼供行为，采取国家赔偿的方式又当如何呢？事实上，根据中国现行国家赔偿法的规定，刑讯逼供也只有在“造成公民身体伤害或者死亡的”情况下，才属于国家赔偿的适用范围。这就使国家赔偿与追究侦查人员的刑事责任几乎都仅仅适用于“造成严重后果的刑讯逼供行为”，而对绝大多数普通的刑讯逼供行为根本无法起到制裁作用。
如果说国家赔偿无法被用来制裁绝大多数刑讯逼供行为的话，那么，侦查机关能否以行政纪律惩戒的方式来抑制刑讯逼供呢？我们可以假设两种情况：一是警察以刑讯逼供的方式获得被告人的有罪供述，该供述又被公诉机关作为指控证据提交给法院，而法院最终采纳了该供述，并对被告人作出了有罪判决；二是警察同样以刑讯逼供的方式取得了有罪供述，法院也对被告人作出了有罪裁决，但是后来经过“审判监督程序”，法院的有罪判决被推翻，案件被证明属于冤假错案，警察刑讯逼供的问题也“浮出水面”。
在中国刑事司法制度下，侦查人员在上述第一种情况下是不会因刑讯逼供而被追究行政责任的。毕竟，以侦查破案为天职的公安机关、检察机关，对于侦查人员成功地破案并促使法院最终定罪的案件，是不会计较他们是否实施过刑讯逼供行为的。只要侦查人员的刑讯逼供没有造成被告人人身伤亡的严重后果，那么，刑事追诉的成功足以遮蔽一切程序性违法行为。这种“重实体，轻程序”的现象根本不是什么侦查人员法律观念的问题，而是赤裸裸的职业利益使然。很难设想，公安机关会仅仅因为普通的刑讯逼供行为，而对一个成功地将犯罪人“绳之以法”的警察，作出撤销职务、开除公职之类的行政处分。
而在后一情况下，由于警察的刑讯逼供行为最终造成了冤假错案，严重影响了公安机关、检察机关的形象，造成了较为严重的社会影响，因此，追究侦查人员行政责任的情况经常会发生。有时候，不仅直接实施刑讯逼供的警察会因为冤假错案的发生而被追究刑事责任，而且就连侦查部门的负责人以及相关的官员也会受到行政纪律处分。（注：典型的例证是云南昆明的杜培武案件。在杜培武故意杀人案最终被证明属于冤案之后，公安机关的侦查人员对杜培武实施刑讯逼供的问题也浮现了出来。基于这一案件的重大社会影响，云南省人民代表大会常务委员会颁布了《关于严禁刑讯逼供和严格执行办案时限等规定的决定》；中共云南省委政法委员会也出台了《关于提高执法水平，确保办案质量的意见》。云南省委常委、政法委书记还主持召开专题会议，要求“坚持错案追究责任制，依法依据查处有关责任人。省市公检法都要写出书面检查，并对刑讯逼供、错办、错诉、错判等问题进行总结，提出具体整改措施，并进行内部通报”。云南省人民检察院和公安厅也向新闻媒体作出了“严禁刑讯逼供”的承诺。与此同时，对于在杜培武案件中实施过刑讯逼供的两名刑警支队的负责人还追究了刑事责任。在杜培武冤案被发现前后发生的另外三起刑讯逼供案件中，除了直接实施刑讯逼供的警察被追究了刑事责任，还有八名“负有领导责任”的县市公安局局长、政委或分管局长和七名派出所所长、刑警队长受到纪律处分，其中五名被免除职务。参见陈昌云：《路漫漫其修远兮——杜培武出狱以后》，载《工人日报》2000年12月8日。）这就说明，在没有造成冤假错案的情况下，普通的刑讯逼供行为一般并不会引起行政纪律处分的。甚至在一些所谓的“大案要案”的侦破过程中，刑讯逼供行为还会受到一定程度的默许甚至鼓励。侦查人员在通过刑讯逼供方式最终成功地破获某一影响重大的案件后，还有可能受到不同程度的嘉奖，甚至会获得新的晋升机会。
由此可见，即使对刑讯逼供这一经常发生的程序性违法行为，追究刑事责任、国家赔偿和行政纪律处分等实体性制裁措施所能发挥的作用也是十分有限的。这些实体性制裁措施只能适用于那些造成人身伤亡、冤假错案等严重后果的程序性违法行为，并取决于公安机关、检察机关所承受的职业压力、主观认识、人事关系等一系列复杂的因素，从而具有明显的偶然性和不确定性。经验表明，对于绝大多数一般的刑讯逼供行为而言，这些实体性制裁措施不可能有效地遏止刑事诉讼中的程序性违法行为。它们无论是在制裁程序性违法还是在提供权利救济方面，都具有极为明显的局限性和不可靠性。
既然对于侦查人员违反法律程序的行为，要通过实体性制裁措施加以惩罚和抑制，确实是不切实际的想法，那么，通过宣告无效的制裁方式，岂不就成为无法回避的责任追究方式了吗？就非法证据排除规则而言，我们还需要回答这样一个问题：排除侦查人员非法获取的证据，究竟有什么样的正当性？
对于这一问题，刑事诉讼理论一般是从以下几个角度加以论证：一是通过排除非法证据，法院可以为那些受到侦查人员侵害的被告人提供有效的司法救济；二是通过宣告侦查人员的行为属于非法行为，并拒绝采纳由此获取的非法证据，法院不仅可以避免成为侦查人员违法行为的“帮凶”或“共犯”，而且还可以促使侦查人员遵守法律程序，成为执法守法的楷模；三是通过将非法证据排除于法庭之外，法院可以有效地抑制侦查人员违反法律程序的动机。
在非法证据排除规则的正当性问题上，该规则的适用究竟能够达到怎样的实际效果，经常引起人们的广泛争论。赞同者认为，排除非法证据可以有效地遏制警察违反法律程序的冲动。但反对者则坚持认为，即便将非法证据予以排除，法院也只不过惩罚了那些并无过错的检察官、被害人，而对实际存在违法行为的侦查员并不会产生实际的惩戒作用。
其实，我们在讨论非法证据排除规则的实际效用时，应当区分两个方面的问题：一是这一程序性制裁方式能否彻底遏制刑讯逼供等非法取证行为；二是这种宣告无效的制裁对于侦查员的行为究竟会产生哪些遏制作用。从现实主义的角度出发，有效地适用非法证据排除规则，对于侦查人员的侦查行为还是会产生程度不同的遏制作用的。
罗马法时代曾有一句著名的格言：“任何人不得从其不法行为中获得利益”（拉丁Nemo potest ex suo delicto consequi emolumentum）。假如那些实施违法行为的人，能够从中获得利益，而法律又不能有效地将这些利益加以剥夺，那么，要对这些违法行为加以遏制，几乎是不切实际的。换句话说，要促使人们遵守法律，不去实施违法行为，就不能不“剥夺违法者违法所得的利益”。这是彻底消除违法者违法动机的必由之路。
法院假如有效地将某一侦查行为宣告为“非法侦查行为”，并将由此获取的非法证据排除于法庭之外，使其无法转化为定罪的根据，至少可以对侦查人员产生以下几个方面的遏制作用：一是通过宣告侦查行为的违法性，对其违反法律程序的行为足以产生谴责作用；二是通过一种“民告官”的程序安排，使侦查人员成为程序上的被告，并为其侦查行为的合法性作出辩解，接受法庭的司法审查；三是通过宣告非法所得的证据不具有法庭准入资格，使其违反法律程序的行为不能产生任何实际的效果；四是通过宣告非法证据不能转化为定罪的根据，使其本来有可能完成的刑事追诉活动最终归于失败。
尽管侦查人员本人与刑事诉讼的结局并不具有利害关系，但是，法院通过排除非法证据所带来的连带效果，使侦查人员无法完成刑事追诉的使命，从而令其产生程度不同的职业挫败感。尤其是在中国刑事诉讼制度中，检察官一旦因为法院排除非法证据而无法实现定罪的结果，侦查机关的刑事拘留就有可能被认定为“错误拘留”，检察机关的逮捕就可能被视为“错误逮捕”，侦查机关会因此承担国家赔偿责任，侦查人员也有可能受到负面的“绩效考核”结果。这多多少少就与侦查人员的利益发生了牵连。法院将非法证据排除于法庭之外，最终还是剥夺了侦查人员违法取得的利益——通过侦查破案获得职业成功的结局。这对于消除侦查人员程序违法的动机显然还是具有积极效果的。
迄今为止，关于适用非法证据排除规则究竟能否遏制侦查人员程序违法，还一直属于一个理论问题。由于法院排除非法证据的案例少之又少，我们无法对此进行富有意义的实证研究和经验分析。我国2012年修订的《刑事诉讼法》已经确立了非法证据排除规则，并将非法言词证据列为主要排除对象。将来随着法院适用非法证据排除规则的案例逐渐增加，我们有可能对这一规则的实施效果进行一些科学分析。或许，到那时，“剥夺违法者违法所得的利益”这一命题，就不再仅仅只是理论假设，而有可能得到某种程度的验证了。
Hermes Appears to Calypso （detail），1718—172