历朝历代的兵制略有不同，总体而言，兵部尚书最大，其次是总督，再次是提督，然后才是总兵。元帅并不列入常规序列，唐、宋、元、明等朝曾经设置。
兵部尚书是六部尚书的其中之一，别称为
大司马，统管全国军事的行政长官，明朝正二品，清朝从一品。兵部尚书相当于现在主持中 央军 委日常工作的军 委副主 席兼国 防 部长；明朝兵部尚书权力更大，相当于现在的军 委副 主 席、国 防 部 长、总参 谋 长和后 勤 部 长的总称，明清两代，因为兵部下辖4部门，当时各分管各地驻军的粮草，军 队的调动以及军队官员的任命还有一个类似参谋部的衙门。
总督通常指一个国家的某片相对自主的区域中实际或名义上的最高行政长官。清朝时对统辖一省或数省行政、经济及军事的长官称为“总督”，官阶为正二品，但可通过兼兵部尚书衔高配至从一品。与只掌握一省行政事务的巡抚不同，总督兼管数省，同时在政务之外也兼掌军务。
提督全称为
提督军务总兵官，负责统辖一省陆路或水路官兵。提督通常为清朝各省绿营最高主管官。若以职能分，提督分为陆路提督与水师提督，掌管区域达一至两省。一般来说，清朝共在中国各地设置12名陆路提督和3名水师提督，为一省
绿营兵的最高长官，受总督或巡抚节制。
明朝时期，总兵为无品级之武官官名，其统辖兵士、编制定员、位阶皆无一定，通常为公侯或地方都督兼任。明朝末年，总兵是高级将领，全国不过二十人左右，相当于军 区司 令 员。清朝之后，总兵则改为正二品，一般受提督统辖；全中国设有总兵定员83名，其中陆路总兵约占70名，水路则为13名，统辖中国
十八省614防营约63万兵 力。
在中国，元帅一词最早出现在公元前633年的春秋时期，其名源于《左传·僖公二十七年》（前633年）所载
晋文公的“谋元帅”（即考虑中军主帅人选），
晋国名将先轸在
城濮之战与崤之战中屡立战功，成为了我国历史上第一位有元帅头衔并有着元帅战绩的军事统帅。当时只是表示对“将帅之长”的称呼，还不是官职名称。从南北朝起，元帅逐渐成为战时统军征战的官职名称。唐李渊入关后，设有左右元帅。唐代有元帅、副元帅等战时统帅。元帅常以皇子或亲王担任，副元帅常以有威望的大臣担任。唐太宗李世民在继承皇位以前曾担任过“西讨元帅”。宋靖康时以
康王赵构为天下兵马大元帅以拒金兵；金侵宋时亦设都元帅、左右副元帅，多由亲王任职，权位极重，非定职。元代外省和边疆常设有都元帅、元帅府或分元帅府及置达鲁花赤、元帅等，为地区军事长官。元末地主武装首领多称元帅。明代在
枢密院之下设诸翼元帅府，任命元帅、同知元帅等官职，统军征战。元、明两朝的元帅职权较前减轻，仅为二、三品官职。