新中国成立前，人民军队因陋就简，建立过各种军事院校。这些院校不仅培养了大批军事、政治、后勤干部和各类专业技术人才，为革命战争的胜利作出了重要贡献，而且也为新中国军事教育事业的发展，储备了军事教育人才，积累了经验。新中国成立后，改变过去军事院校教育不正规不统一的状况，尽快建立正规化的军事院校及其教育体系，成为人民军队建设的一项十分迫切的任务。1950年7月，中央军委确定了“以战争年代创办的学校为基础，改建、新建一批适应培养现代作战人才的各类院校”的方案。根据这一方案，把战争年代各战略区建立的军政大学、军政干校和各部队随营学校改建为5所高级步兵学校、24所初级步兵学校和一批专业技术院校。1950年10月23日，毛泽东电令西南军政委员会主席刘伯承到北京主持陆军大学的筹建工作。11月13日，刘伯承向中共中央和毛泽东提出《关于创办军事学院的意见书》，建议将拟议中的陆军大学改名为军事学院。1951年1月，中国人民解放军军事学院在南京成立，刘伯承任院长兼政治委员。军事学院是培养合成军队高级指挥员和高级参谋人员的综合性军事学府，毛泽东称它的建立是中国人民解放军建军史上重大转变的标志之一。随后，成立了后方勤务学院及一批专业院校，形成初、中、高级指挥院校和专业技术院校的梯次配置。到1952年底，全军共有军事、政治、文化、后勤、技术院校200余所。1953年9月1日，培养现代军事科学技术的各军兵种军事工程人员的军事工程学院在哈尔滨成立，陈赓任院长。到1953年，人民解放军初步形成了比较完整的院校教育体系。