在早期冷兵器作战时代，深沟高墙的长城和连绵不断的亭、障、烽、堡构成的防御工事，确实起到了抑制骑兵机动性强的优势，相对提高了中原王朝军队的战斗力。因为按照一般的军事原则，在进攻力量和进攻：工具相对差不多的情况下，防御较之进攻是一种较强的作战形式，防御者也因而往往比进攻者占有优势：“采取防御态势的守方军队的战斗力，如能利用地形和工事的有利条件(不论这种工事是仓促而成不够完善，还是复杂又经细心准备)，就会成倍增强。有许多著名的例子证明，攻方为了打败占据有利地形和工事的守方，就必须在兵力上占有优势……防御的一方虽然兵力上处于劣势，但由于占据了有利的地形和防御设施而亨有优于攻方的有利条件。”长城作为一项军事防御工程，就军事而言，其在中国历代北部边防中的作用是多重的：第一，可以起到阻止、抗击小股敌人袭扰的作用。长城修筑后，各支撑点互相支援，敌人的铁骑通常无法越过这条深沟高垒、严密设防的防御工程。尤其是当敌人进行小股袭击时，往往难以越过长城防线。如其不迅速退走，不仅野无所掠，而且还会受到沿线守军在长城掩护下集中优势兵力实施的攻击，甚至被歼于长城脚下。比如，东汉初年，汉廷采用“河西城门昼闭”的方法来对付匈奴的袭扰，结果，在高大的城墙面前，匈奴骑兵无能为力，只得退去。
第二，当游牧民族实施大兵团运动进攻时，长城这一综合防御体系可以起到消耗、迟滞敌人，争取时间，保障纵深主力集中、展开的作用，从而粉碎敌速战速决的企图。假如没有长城这一依托自然险要而修建的国防屏障，游牧民族的骑兵集团便可很容易地在短时间里长驱直入，深入中原腹地。而有了长城，中原王朝的军队就处于进可攻，退可守的有利地位。因为，一旦游牧民族的大军接近长城防线，长城当面的戍守部队立即进入紧急战备状态，接着，中原王朝的各级边防指挥部及中央统帅部通过烽燧报警，可以及时地掌握敌情，并着手进行反击的准备。当敌人主力攻打长城各据点时，有关指挥部可立即使用机动部队支援位于敌人主要进攻地段上的要点，实施节节抗击，迟滞敌人骑兵的进攻，保障主力变更部署，同时消耗分散敌人兵力，使敌骑失去机动，为反击敌人创造有利战机。这时，中央统帅部就可以较为从容地部署二线堵击部队和向敌主攻方向机动兵力，从而集中主力，形成优势，与之决战，或将其击退，或将其歼灭于长城内外。
第三，长城防线的防御战，不像城池防御作战，可以据守城墙进行决战，战争的胜负主要取决于双方主力的会战。在这方面，长城的存在，为中原军队实施出击提供了进攻出发阵地及后方基地。历代王朝对北方游牧部族进行先发制人的反击时，往往要隐蔽战略企图，对敌进行侦察，这时，长城因靠近边防线且便于隐蔽，因而成为中央大军良好的进攻出发基地。在长城及其守军的荫蔽掩护下，中央大军可以从容地利用驰道、直道等交通设施，秘密迅速地集中主力于主攻方向的长城内侧，然后发动突然进攻，达成战争的突然性。当主力深入长城以外时，长城沿线的各堡垒、障城，又可以屯兵储物，为进攻部队实施全面可靠的后勤保障。
连绵不断的长城虽有利于中原王朝利用地形屏障建立巩固的防御阵地，形成一定的战略纵深，但即使在冷兵器时代，它也并非不可逾越的障碍，历史上游牧民族多次越墙而过深入中原，而大修特修长城的明朝也并没有因为据有坚固的长城而边防安澜，此所谓“在德不在险”。当然，我们在评价历代“修墙防御”这一边防方略时，也不能走向另一极端，毕竟，“修墙”本身并不意味着消极防御，历史上宋、明两代的确以长城(包括水上长城)实施消极防御，但也有许多中原王朝把它与主动出击，防患于未然的战略结合起来。像汉代对匈奴的战争，唐对突厥的战争，清朝征厄鲁特、准噶尔诸部之役，都是积极防御的攻势行动，并且取得了胜利。