目前，我国法院共有四级设置，实行“两审终审制”，是指一个案件最多经过两级人民法院的审判即告终结的一种审级制度。 目前的这一制度经过了很长的历史演变过程。
早在民主革命时期，各革命根据地的诉讼程序中已设有上诉制度，并在有关的法令和条例中作了明确的规定。1934年颁布的《中华苏维埃共和国司法程序》中规定，“如区为初审机关，则县为终审机关；县为初审机关，则省为终审机关；省为初审机关，则最高法院为终审机关。……最高法院在审判程序上，为最后的审判机关。”
抗日战争时期，各抗日根据地基本上仍实行两审终审制的上诉制度。有的根据地曾实行三审终审制的上诉制度。如陕甘宁边区于1942年一度改为三审制，即以边区审判委员会作为第三审级，受理不服边区高等法院一审或者二审之刑事民事上诉案件。
解放战争时期，各解放区继续实行两审终审制的上诉制度。有的地区规定，在特殊情况下，有些案件准许进行第三审。
中华人民共和国成立后，1951年颁布的《中华人民共和国人民法院暂行组织条例》中规定：“人民法院基本上实行三级两审制，以县人民法院为基本的第一审法院；一般案件以二审为终审，但在特殊情况下，得以三审或一审为终审。”由此可以看出，这一时期的审级制度是以两审终审为主体，以一审终审和三审终审为例外的审级制度。1954年颁布的《中华人民共和国人民法院组织法》取消了特殊性规定，明确规定人民法院审判案件，一律实行两审终审制。这就以正式的法律制度废除了三审终审和一审终审的例外情况。从此，两审终审制作为正式的法律制度得以确立。
1979年刑事诉讼法第7条、《人民法院组织法》第12条、1996年修订的刑事诉讼法第10条规定：“人民法院审判案件，实行两审终审制。”
对于为什么采用“两审终审制”？学界主流观点以及司法界一般这样解释：
1．符合我国国情。我国是一个地域辽阔，交通不便的国家。县、地区、省三级法院相距甚远，不宜把过多的案件集中到省级法院终审。如果实行三审终审……一个案件从县、地区、再到省里，势必使当事人和其他诉讼参与人出席法庭，来往奔走，长途跋涉，影响生产和工作。
2．便利群众。依靠群众是我国完成各项工作必须遵循的根本路线，也是我国刑事诉讼法的基本原则。根据我国法院审判管辖的规定，除极少数重大案件属省级以上法院审理外，大多数案件属县、地区两级法院审理。实行两审终审制，使大多数案件可以在县、地区两级法院得到解决。一般来说，县与地区比较靠近，办案人员依靠群众进行调查核实案情，传唤当事人和证人接受询问，出席法庭都比较方便，也有利于审判公开，向群众进行法制教育和接受群众监督。
3．有利于及时惩罚犯罪，保护当事人的合法权益。实行两审终审制的上诉制度，既保障了当事人的上诉权利，又简化了诉讼程序，减少了重复审理。当事人的上诉，不论是认定事实还是适用法律方面的问题，通过全面审查，包括对一审判决中可能存在的其他一些法律问题，都能一起得到正确解决。案件的及时处理，对惩罚犯罪，纠正错误都有利。
主流观点也认识到两审终审制比三审终审制减少了一道程序，减少了当事人再次上诉的机会，这样对案件的质量和当事人的合法权益有可能造成影响，但是，同时他们认为刑事诉讼法规定的两审终审制完全可以保证审判质量。理由如下：
1．我国的二审程序实行全面审查原则。全面审查原则要求第二审人民法院在审理上诉或者抗诉案件时，对整个案件的事实、证据、定罪量刑等问题进行综合审查，全面考虑。二审法院贯彻全面审查原则，对于执行有罪必纠的方针，保证第二审程序任务的顺利完成，具有重要意义。
2．死刑案件实行复核程序能够保证死刑案件质量。二审终审后，对判处死刑的案件，还须报高级人民法院或者最高人民法院复核，即使被告人不上诉的案件。同时也须上报经过复核程序才能执行，从而切实保证特别重大案件的正确处理。
3．我国的审判监督程序具有强大的纠错功能。人民法院对于发生法律效力的终审判决可以依法提起审判监督程序，检察机关实行法律监督，行使监督职能可以在相当程度上纠正错判，况且当事人在判决生效后如果不服还可以申诉。
