隋唐两朝的军队，以府兵为主。府兵始于西魏，当时兵士及其家属的户籍属于军府，称为军户。入军户后，世代为兵，非经免除，不得脱籍。隋文帝于开皇十年(590)取消军户，兵士除有军籍外，还同其家属列入民籍，由州县管辖，同民户一样依照均田法令请占土地。这样，府兵制便和均田制结合起来，成为寓兵于农、兵民合一的兵役制度。取消军户后，府兵可以从一般民户中挑选，扩大了国家的兵源。府兵的征发年龄，隋代是二十一至六十岁，唐代是二十至六十岁。府兵轮番到京城宿卫，叫番上。番上的府兵，称卫士，免去本人赋役。唐代的番上制度是：“五百里内五番，五百里外七番，一千里外八番，各一月上。二千里外九番，倍其月上。”番上是保卫朝廷，需要精壮和可信赖的士兵。因此，一府之兵仅五分之一有资格当卫士，如有兵千人之府，其中二百人为卫士。五番，即将二百名卫士分为五组，八番分八组，每组宿卫一月轮换；九番分九组，两月一轮换。这样，一千府兵中，五番每月四十人、九番每月二十二人服兵役，对生产影响不大。遇有战事，征发在役年龄的府兵，命将出征，战争结束，兵散于府，将归于朝，使将帅不能长久专兵，以保证军权集于皇帝。从征时间，超过役期，免去租调。唐太宗整顿府兵后，府兵建制更完备。当时，折冲府的组织与编制，已成定制：十人为火，五火为队，二队为旅，二旅为团，团上是府；府分四等，上、中、下府各辖六、五、四个团，每团两个旅，特府辖五个团，每团三个旅。府上是卫、率，卫设大将军一人、将军二人，率设率一人、副率二人。隋代军府隶属于十二卫和皇太子东宫十率；唐贞观间，全国分布六百三十四个军府，由十二卫和东宫六率分别统领。隋唐军府的组织系统与各级军职名称、品级略如下表：

府兵制下的兵士，就是均田制下的农民，通过均田制来巩固府兵制，使隋唐两朝的军事力量空前强大。到唐玄宗时，土地兼并日益加剧，均田制被破坏，府兵制也随之瓦解，为募兵制所代替。这说明，府兵制不是隋唐唯一的兵役制度。另外，隋代有称作羽林、佽飞的禁军，同府兵共同担任京城宿卫，唐代边疆有军、城、镇、守捉(长官皆称使)等名目的镇戍兵，还有战时临时招募的猛士，皆非府兵一个组织系统。因此，不能把府兵作为隋唐整个兵制来叙述。关于唐代兵制，见于《新唐书·兵志》。对府兵制度研究的专著有谷霁光的《府兵制度考释》和岑仲勉的《府兵制度研究》(上海人民出版社1978年和1982年版)。