将军的称呼产生自春秋时期。军是古代最大的军队建制，总有1.25万人；将，则是统领之意。卿大夫一般担任一个军的首领，因此卿大夫往往被称为将军，但并非一种正式官职。战国时期，将军逐渐成为正式官名，并根据三军的设置分别出现上、中、下、前、后、左、右将军等官名。秦代因之，设上将军为出征打仗时的军事统领，其次置前、后、左、右将军。汉置大将军、骠骑将军，位次丞相；车骑将军、卫将军、前、后、左、右将军，位次上卿。晋朝设骠骑、车骑、卫将军，又有伏波、抚军、都护、镇军、中军、四征等大将军。南北朝时，武人逐鹿，将军名号更多。唐代时，各种制度开始规范，设有上将军、大将军、将军等名号，作为一些禁卫军军官和武散官（有官无职的官员）的称号。宋、元、明时期，将军多为武散官，另外将军还是是对廷尉武士的尊称。清人尚武，将军常被作为宗室爵号，另外也是对地方军事长官的泛称。