国兵平时的管理、训练、指挥，内郡与边郡略有不同。内郡兵每年轮流到郡国"番上"(服役、值勤)，接受军事训练(一说内郡兵平时寄于乡里之制,有"什"、"伍"等组织，并开展训练，仅都试时才集中)。其领辖层次为：太守(都尉)-县令长(县尉)-乡啬夫(游徼)及亭长。遇到特殊情况，内郡兵要奉调到指定地点屯驻。边郡兵经常集中出屯，还要担负烽燧候望，警戒任务既重，且随时参加作战，"虽有长爵不轻得复，五尺以上不轻得息，斥候望烽燧不得卧，将吏被介胄而睡"(《汉书·贾谊传》)。其指挥体系不仅有郡县乡亭系统，还有边境亭障烽燧组织。每年八月，太守(或王国相)、都尉(或王国中尉)、县令长、县尉领率全郡材官、骑士或楼船进行大会试，校阅人马，考核武艺，评定优劣。边郡太守还要率万骑巡行障塞。
郡国兵虽置于郡国，仍受朝廷指挥调遣，发兵权属于中央。