在具體操作層面，非法證據排除可以在刑事訴訟過程中的三個階段進行：
1、檢察階段。這一階段又分為批捕和審查起訴兩個環節。在批捕環節，檢察機關發現偵查機關所取證據存在違法行為的，可以責令其予以糾正，並不得將非法證據作為批准逮捕的依據，乃至作出不予批准逮捕的決定。在審查起訴環節發現非法證據的，除了責令偵查機關予以糾正外，還可以主動將非法證據予以排除，使之在案件移送至法院之前就被清理掉。可見，這一階段主要是檢察機關依職權主動進行的。
2、庭前會議階段。根據最高人民法院釋出的《人民法院辦理刑事案件庭前會議規程(試行)》規定，適用普通程式審理的刑事案件，法院可以決定在開庭審理前召開庭前會議。庭前會議中，被告人及其辯護人可以申請排除非法證據，但應提供相關的線索和材料，檢察機關應當就證據的合法性作出說明。如果雙方達成一致意見，則可以排除非法證據;如果未能達成一致意見，則該爭議問題就會進入庭審階段展開法庭調查。
3、庭審階段。庭前會議的目的，是為了將有關程式性事項在庭審前就進行解決，以便庭審時能夠集中精力審理案件的實體方面。對排除非法證據存在爭議的，應當在庭審中進行解決。但根據庭前會議規程規定，公訴人提供的證據材料確實、充分，能夠排除非法取證情形，且沒有新的線索或者材料表明可能存在非法取證的，庭審調查舉證、質證可以簡化。
此外，如果被告人及其辯護人在庭前會議階段未提出申請排除非法證據，如果有新的證據證實可能存在非法證據情形的，也可以在庭審階段提出。否則，庭前會議階段未提出的，庭審時應不得再提出。
不管是什麼樣的訴訟最重要的環節就是證據的質證，而在刑事訴訟當中對於從非法的渠道來獲得的證據是絕對不能夠作為證據使用的，需要依法進行排除，而非法證據排除的階段，主要有三個，一個是檢查階段，另外就是庭前會議和庭審階段。
