刘备兴起后，以左将军、汉中王名义开府，府中设有完备的幕僚机构，以诸葛亮为军师将军。刘备即帝位后，任命诸葛亮为丞相录尚书事，辅佐刘备总理军政。夷陵之战失败后，刘备病死白帝城，儿子刘禅继位，诸葛亮以丞相掌握朝中实权。诸葛亮死后，蒋琬以大将军、大司马继掌兵权。此时蜀汉的最高统御机关实际上是丞相府、大将军府。其府中幕僚，有军师、长史、司马、从事、主簿、参军、椽、史、门下督和记室，与曹魏相似。
中外军的最高统帅，是由皇帝任命的都督中外诸军事担任。曹真、司马师等人先后被任命为都督中外诸军事，掌握兵权。曹魏后期，司马氏势力上升，司马昭、司马炎等都以大将军职掌握军权。
蜀汉的中央宿卫军，主要有左右羽林部和虎步营、虎骑营。羽林部成员都是军官出身，类似于汉的羽林郎，人数不多，长官为部督，相当于汉的羽林中郎将。步、骑两营是宿卫军的主力，每营各有五六千人，长官为虎步监、虎骑监。姜维曾任虎步监。
孙吴的中军是中央直接控制的部队，以宿卫军为主。担任宿卫的士兵，称羽林、武卫和虎骑等，大多是孙氏的故将部曲。外军屯驻在京城外各军事要点，由督率领，一般将所在地名称冠于督之前，如西陵督、江陵督、芜湖督等等。中外军的最高统治权开始掌握在孙权手中。孙权死后，军权逐渐下移至大将军之手。大将军之后常加“领中外诸军事”、“督中外诸军事”等称号，成为孙吴中外军的实际最高统帅。诸葛恪、孙峻、孙琳专权时都是如此。如诸葛恪专权时为“荆扬州牧、督中外诸军事”，孙峻杀诸葛恪后，任“丞相、大将军、督中外诸军事”，孙峻死后孙琳专权，为“侍中、武卫将军、领中外诸军事”。
曹操任大将军开府(指开设府署，设官置吏)时，置长史一人，总管府内各曹；司马一人，主管军政；从事郎中二人，参与谋议。任丞相后，府中官员进一步扩大，增设军师祭酒，左、右、前、后、中军师，左、右司马，主簿、参军等。这些幕僚之外，还有两名更重要的官员：领军和护军。他们统率曹操的亲军，平时辅佐曹操，参与军事机密和决策，战时代表曹操出外统帅、监护一个方面的军队。建安十二年(公元207年)，改领军、护军为中领军和中护军。
曹丕代汉建立魏国政权后，魏帝成为最高军事统帅，不再设丞相，以幕僚近臣任中书监、中书令，参与机要。军事方面，临时任命都督中外诸军事，代表皇帝指挥全国军队。曹魏后期，司马氏当权，司马昭任丞相，相府遂成为魏国的军政权力中心。
世兵制的主要特点就是军户和民户分离，军户世代为兵和士兵叛逃罪及家属。由于汉末重男轻女，造成男多女少，男子求偶困难。为了保证兵源，曹魏政权采取行政手段干涉军户的婚配，不许军户女子外嫁，只准在军户内求偶。
东汉末期，各割据势力均以拥护汉室为号召，都接受汉的官位。汉献帝初平元年(公元190年)，关东诸州郡联合讨伐董卓时，曹操的职位是奋武将军，其部将多称奋武将军司马或别部司马。据《三国志》记载，曹操为奋武将军时，夏侯惇为司马，夏侯渊为别部司马。建安元年(公元196年)，曹操以大将军、丞相的名义掌握实权，汉献帝成为傀儡。曹操在正规官制之外，另组一套机构，后世称为霸府。霸府既是政治权力的中心，也是最高军事指挥机构。
曹魏军队由中央军和州郡兵两部分组成。中央军按驻屯地点和担负的任务不同又分为中军和外军。中军是曹氏父子直接统辖的部队，由曹操的亲军“虎豹骑”发展而成，包括武卫营、中垒营、中坚营、骁骑营、游击营等五营。中军的任务是负责侍从皇帝、宿卫皇宫、保卫京师。中军屯驻于京城地区，由中领军统领，是魏军的核心力量。外军屯驻于边州重镇，负责随时支援边郡地方武装，由中央派出的都督分领。中外军的这种区分始于曹操执政时期，曹操在官渡之战中击败袁绍，占领了冀、并、青诸州。为控制和巩固这一占领区，遂派兵留驻该地重要城镇。为与担负宿卫任务的军队相区别，这些留驻的军队便称作外军。外军虽驻外地，但仍由中央直接指挥。曹丕称帝后，中外军制度完全形成。
三国两晋南北朝时期，是中国历史上由长期分裂走向重新统一的重要时期。在长达三个多世纪的大动荡、大分裂过程中，各民族的大融合也在发展。因此这一时期的兵制也就带有鲜明的时代特色，给当时和以后的社会发展带来了深刻影响。
蜀汉的外军，与曹魏外军性质相同，是由中央派出，镇守在重要战略方向上的军队。主将为都督，一般由将军担任，如邓芝以前将军为江州都督，廖化以后将军为永安都督。
魏、蜀、吴三国都建立了中外军制度。由于各自情况的差异，三国的中外军制度也不完全相同。
孙策、孙权兄弟占据江东，以讨逆将军、讨虏将军名义开府，自任统帅。府内设置与魏蜀近似，也是参照汉制。除有军师、长史和诸椽外，统兵将领有护军、领军、典军等。周瑜曾任中护军，吕蒙曾任左护军，陆逊曾任右护军。领兵出征的主帅称督或大督，如周瑜随孙权攻黄祖时，为前部大督；赤壁之战时，与程普分任左、右督。孙权称帝后，部将官职和官阶提高，如陆逊由辅国将军、右护军，改称上大将军、右都护。
蜀汉在实行征兵制的同时，对各级将领的部曲实行世兵制。诸葛亮在进军南中地区时，还收降大量少数民族人民当兵。据《华阳国志》记载，在击败孟获后，“移南中劲卒青羌万余家于蜀，为五部，所当无前，号为正军”。还征募川西“蜀叟”人为兵，号称“叟兵”，迁入的这些少数民族逐渐成为世代为军的军户。
魏、蜀、吴三国兵制基本沿袭了东汉制度，但也有变化和发展，主要是建立了中外军制度和实行世兵制。
孙吴的世兵制有自己的特色。与曹魏的家属不准随军不同，家属一般随军，由各统兵将领控制。孙吴政权是在江南大族和北方南迁大族的积极支持下建立的，这些大族都拥有相当的军事、经济实力。为了照顾这些大族的利益，孙氏父子不得不承认他们的领兵权，于是形成了孙吴特有的世袭领兵制。统军将领对所统之兵可以世袭统领，父死子继，兄终弟及。如蒋叙死后，其所统之兵由其子蒋壹接领，蒋壹战死后，因为无子，便由其弟蒋休接领。又如凌操战死时，其子凌统年仅15岁，便接替其父统兵作战。这样的例子，《三国志》中记载颇多。
蜀汉的中央军分为前、后、左、右、中五军。中军主要负责侍从宿卫，和曹魏的中军相似；前、后、左、右军则略同于曹魏的外军。五军统帅分别是前、后、左、右将军和护军将军。关羽为前将军，指挥荆州方面军队；张飞为右将军，指挥汉中方面的军队；马超为左将军，指挥凉州方面的军队；黄忠为后将军，指挥控制在中央的机动军队。
三国时期兵役制度主要是世兵制。所谓世兵制，是由一部分人户专服兵役、世代为兵，是保证地主阶级政治需要的一种兵役制度。世兵制形成和确立于三国时期。曹操起兵之初，各军阀为防止官兵叛逃，都要求将领甚至士兵以家属为人质。士兵的家属被集中管理，严加控制，成为军户。统治者为了获得稳定的后备兵员，强迫军户世代为兵，父死子代，兄终弟及。这样，世兵制正式形成。
