建立新军兵种的努力在战争年代就开始了。随着解放战争的节节胜利，建立新的军兵种的条件逐渐成熟，中共中央和中央军委审时度势，开始筹划建立空军、海军和陆军各技术兵种。特别是抗美援朝战争对空军和炮兵、装甲兵、工程兵、防空部队、铁道兵等技术兵种的建设起了巨大的促进作用。到1953年，中国人民解放军已经发展成为一支军兵种比较齐全的合成军队。
    建立人民海军。人民海军的建立经历了一个先建立军区海军或基地，再成立全国性的海军领导机关的过程。最早的一支海军部队是华东军区海军。1949年4月23日，华东军区海军在江苏泰州白马庙乡第三野战军东路渡江作战指挥部驻地宣告成立，张爱萍任司令员兼政治委员。这一天后来被中央军委批准为中国人民解放军海军的诞生日。随后，先后成立了广东军区江防司令部、中南军区海军领导机构、海军青岛基地。新中国成立后不久，中央军委就决定组建海军领导机构。1950年4月14日，正式成立中国人民解放军海军领导机关，萧劲光任司令员。这标志着海军已正式作为中国人民解放军的一个军种。海军领导机关建立后，海军建设的方针是：“从长期建设着眼，由当前情况出发，建设一支现代化的、富有攻防能力的、近海的、轻型的海上战斗力量。首先组织利用和发挥现有力量，在现有力量的基础上，发展鱼雷艇、潜水艇和海空军等新的力量，以逐步建设一支坚强的国家海军。”人民海军的建军路线，即在中国共产党的绝对领导之下，以陆军人员为基础，吸收大量的革命青年知识分子，团结和改造原海军人员，建设人民的海军。
    建立人民空军。在解放战争即将取得胜利的前夕，中共中央就提出建立人民空军的问题。1949年3月17日，中央军委决定成立航空局，统一领导、管理航空事业。6、7月间，中共中央和中央军委考虑到渡海解放台湾的需要，决定加快建立空军的步伐。在毛泽东的指示下，周恩来开始进行组建空军的工作。8月成立了一个飞行中队，负责北平地区的防空任务。这个航空中队参加了开国大典的受阅飞行。空军领导机关由第十四兵团机关和军委航空局人员组成。10月25日，中央军委任命刘亚楼为司令员，萧华为政治委员兼政治部主任。11月11日，中国人民解放军空军司令部宣布成立，原军委航空局取消。这一天后来被中央军委确定为人民解放军空军成立日。随后，各大军区司令部航空处陆续扩建为军区空军司令部，空军组织指挥领导体系也逐步健全。抗美援朝战争开始后，中央军委高度重视空军的建设，在陆军部队的大力支援和苏联专家的指导下，大批航空兵部队迅速组建起来。年轻的人民空军在抗美援朝战争中成长壮大。从1950年10月到1954年初，人民解放军空军航空兵共建立了28个师70个团，拥有各型飞机3000余架，形成了一支包括歼击、强击、轰炸、侦察、运输在内的空中力量。
    建立炮兵领导机关。在革命战争年代特别是在解放战争时期，炮兵已发展成为人民解放军最主要的技术兵种。在新中国成立时，炮兵有4个师部、70多个团、3所学校和大量分队，有各种火炮2万多门。但是在新中国成立前，炮兵没有一个全军统一的领导机关。1950年8月1日，人民解放军炮兵领导机关正式成立，陈锡联为司令员。在炮兵领导机关成立前后，各大军区也相应成立炮兵领导机构。炮兵按照中央军委提出的“大量发展新的炮兵，同时加强提高老的炮兵”的方针，制定了建设地面炮兵和高射炮兵的规划，采取优先发展预备炮兵，逐步充实步兵师以下队属炮兵的建设步骤。炮兵在50年代初期得到空前发展。到1953年底，全军预备炮兵达23个师88个团又22个独立营，军、师队属炮兵团达100余个，战防炮营、高炮营各数十个；炮兵的装备也有很大改善。
    建立装甲兵领导机关。在革命战争年代，中共中央就认识到建立机械化部队的重要性，并利用一切可能培养装甲兵建设所需要的人才。到新中国成立时，人民解放军坦克部队已经发展成为一支拥有近万人、410余辆坦克、360余辆装甲车的现代突击力量。1950年9月1日，人民解放军摩托装甲兵领导机关正式成立(1951年7月16日，改称装甲兵司令部)，许光达为摩托装甲兵司令员。装甲兵正式成为中国人民解放军的一个兵种。随后，各大军区开始组建装甲兵领导机构，并借鉴苏军经验，对已有部队进行了整编。在军委装甲兵整编坦克师的同时，军区开始组建独立坦克团。根据陆军向诸兵种合成军队转变的要求，从1951年9月开始，在步兵师中增编坦克自行火炮团，这是迈向步兵机械化和合成体制的重要一步。
    建立防空部队。1950年至1952年，华东、东北、华北、中南军区防空司令部相继成立。1950年9月，中央军委决定成立中国人民解放军防空司令部。10月23日，中央军委发布建立防空部队领导机构的命令，任命周士第为司令员，钟赤兵为政治委员。12月16日，中国人民解放军防空部队司令部正式成立。防空部队领导机关成立后，根据中央军委的决定，凡担负城市要地防空任务以及正在组建的高射炮、探照灯、雷达、对空监视哨等部队均划归其建制。1951年至1953年，防空部队在抗美援朝战争和国内防空作战中有了较大的发展。
    工程兵领导机关')">建立工程兵领导机关。在革命战争年代工兵部队已经建立，到中华人民共和国成立时，已有8个工兵团、1所工兵学校、4个工兵训练大队。此外，陆军中各军大都建有工兵营，部分师、团建有工兵连或工兵排。为统一领导全军工兵部队，加强工兵部队的建设，中央军委决定建立工兵领导机关。1950年12月25日，人民解放军工兵司令部成立；1951年9月，陈士榘任司令员。1955年8月，工兵领导机关改称工程兵司令部。从1949年10月到1952年底，全军工兵团由8个发展到28个，总兵力达7万余人；陆军军、师、团分别建立了工兵营、连、排。从此，工兵成为人民解放军合成军队中的一个重要兵种。
    建立铁道兵。新中国成立前夕，中央军委将东北铁道纵队改编为铁道兵团，隶属中央军委建制，兵团司令员和政治委员由军委铁道部部长滕代远兼任。1950年6月10日，按照军委的命令铁道兵团缩编为2．5万人。由于抗美援朝战争的需要，铁道兵团又进行扩编。1953年9月，中央军委命令，志愿军在朝鲜的6个铁道工程师正式划归军委系统，与铁道兵团现有的4个师、1个独立团，统一编为中国人民解放军铁道兵。自此，铁道兵正式成为中国人民解放军的一个兵种。
    建立公安部队。根据《共同纲领》的规定，人民解放军在1950年的整编中，编为国防军和公安部队两类。5月召开的全军参谋会议确定公安部队定额占军队总员额的4．5％。9月22日，公安部队领导机关成立，罗瑞卿任司令员兼政治委员。到1951年10月，各大军区和铁道公安部队领导机构相继建立；组建了正规公安部队20个师又3个团，同时接管了各省、地、县的地方公安武装，初步形成正规公安部队、地方公安部队和边防公安武装的体制。1952年上半年起，将全国的内卫、边防和地方公安部队统一整编为中国人民解放军公安部队。公安边防部队和公安部队全部隶属中国人民解放军建制。
    在这期间，还组成了通信兵、防化兵等军兵种。这些军兵种的建立，标志着中国人民解放军已由单一军种向诸军兵种合成军队的目标迈进。
    此外，组建起来的新疆等生产建设兵团，在保卫边疆、发展边疆方面发挥了重要作用。