西魏大统九年(543年),西魏宇文泰正式创建府兵制。
西魏大统八年(542年),宇文泰开始创置六军,按相传的周制,每军12500人。当时兵源为关陇豪右的亲党和乡人,军队统帅由大小豪右充当。实质上,这是由氏族血缘关系组成的地方军队。这就是最早的“府兵”。这支军队战斗力并不强,在次年的邙山战役中被歼过半。自此以后,宇文泰蓄心创建更完整的“府兵”。
魏初设有“柱国大将军”的官职,此衔位高权重。尔朱氏当权时,尔朱荣曾当此职,地位也随之高过宰相。大统三年(537年),西魏文帝封宇文泰为柱国大将军,此后有官显功高的朝廷重臣,也领过这个职衔。任柱国大将军的共有8人,即安定公宇文泰,广陵王元欣,赵郡公李弼,陇西公李虎(唐高祖李渊之祖),河内公独孤信,南阳公赵贵,常山公于谨,彭城公侯莫陈崇。8人中宇文泰权势最重,监督各军,总揽兵权;元欣因为是宗室,不过挂个空名,过问一下政事,并无实权。其余六个柱国大将军分统六军,每人各统两个大将军,六军中共有12个大将军;每个大将军又各统两个开府将军,共24个开府将军;而每个开府将军各领一个军,实际上有24个军。这支新建的府兵到大统十六年(550年)已初具规模,比大统八年“初置六军”时,人员多了四倍,总计达30万之众。
新建六军的最高统帅合称为“八柱国”,取意于八个柱国大将军。24个官中,每军下设仪同将军,以下团有大都督,旅有帅都督,队有都督等中下级军官。当时,西魏全国共设100个“府”,从民间选有才力者为府兵。府兵本身的租税劳役征调,一切免除。府兵平时务农,农闲时操练。他们的马畜粮食,一律由统军的六个柱国大将军统筹,另外每府设一个郎将,郎将负责管理征集、行役、退役等事务。兵士根据户等高下,丁口多寡等进行选拔,户籍属于军府,不属于郡县。由于具有“私兵”性质,府兵的战斗力很强。这就是由宇文泰创建的西魏府兵制。到了北周时府兵制已有变化,隋唐之际则由发展完备以至于逐渐衰亡。
