春秋时代以卿统军，故称卿为将军；一军之帅称将军。见《国语？晋语四》、《左传？昭公二十八年》：“岂将军食之而有不足？”。此皆非正式官名。到
战国时代始为正式官名，而卿仍称将军。
将军为象棋术语,意思是对局中，一方的棋子要在下一着棋把对方的将(帅)吃掉,称为“将军”，简称“将”。而下过象棋的都知道象棋中的“将”“帅”是最为关键的棋子，不管对局双方损失有多大，只要这两个棋子还在，双方就必须继续对局，直至一方主动告负。而一旦哪方的这个棋子先被对方吃掉，那就意味着被先吃掉“将”或“帅”的一方满盘皆输。
牵一发而动全身，这个词语来用形容这两个棋子在象棋中的作用最为恰当。不过在象棋对局中，很多时候都只用“将”这一个字来代替“将军”，这倒并不是为了省力，实则是为了借音。“将”与“僵”是同音，这样就直截了当地提醒对方，你现在的局面很僵，已陷入了被动不利的境地。所以“将军”亦可理解为“僵军”，这里的“军”意指三军，其实就是一方包括将或帅的所有象棋棋子。
后人逐渐将“将军”一词活用，意为利用对某人来说最为关键或最为顾忌的事物、时机等来刁难、阻挠、牵制或影响某人，使这个人一下子处于相当被动难堪的境地。