由于林彪、"四人帮"多年来对军队的干扰破坏，军队建设方面存在着许多亟待解决的问题。1977年3月，中共中央发出文件，正式通知全党、全军：军委日常工作仍由军委副主席叶剑英主持。为了肃清林彪、"四人帮"的流毒，开创军队工作的新局面，叶剑英以大量精力，领导全军在各个方面拨乱反正。他在军委座谈会上，针对林彪、"四人帮"破坏军队建设所带来的恶果，尖锐地提出了大家要弄清的十个"应该不应该"，即：(一)应该不应该坚持党对军队的绝对领导?(二)应该不应该坚持无产阶级党性，反对资产阶级派性?(三)应该不应该继承和发扬我党我军的优良传统?(四)应该不应该整顿军队?(五)应该不应该严格遵守革命纪律和制度?(六)应该不应该按照接班人"五项条件"搞好老中青三结合?(七)应该不应该强调军队要稳定?(八)应该不应该严格训练、严格要求?(九)应该不应该坚持野战军、地方武装、民兵三结合的武装力量体制?(十)应该不应该准备打仗?叶剑英以十分明确的态度和语言对这十个"应该不应该"作出的肯定回答，澄清了军队建设中的一系列大是大非的问题，清算了林彪、"四人帮"破坏军队建设的罪行，为人民解放军的建设指明了前进的方向。他还亲自抓了各总部、各军兵种机关、军事院校和各大军区领导班子的配备工作。他对这件事情非常认真、严肃。20多个单位的领导成员，他一个一个地了解情况，一个一个地研究，花费了大量的时间和精力。他虽然年事已高，但每次研究情况时，总是端端正正坐在办公桌前，细心地听汇报，记笔记，考虑意见。即使时间再长，身体再累，也坚持到底。按照他的意见，对于那些追随"四人帮"干坏事的人，不管其职位多高，也必须坚决将其从领导班子中清除出去。对于那些受林彪、"四人帮"迫害而又有领导能力的老干部，以及那些经过斗争实践考验且年富力强的干部，则坚决把他们安排到领导班子中来。叶剑英对军、师、团各级领导班子的配备，也提出了具体的标准和要求。所有这些，对从组织上保证人民军队领导权掌握在忠于马克思主义的人的手里，使军队沿着无产阶级建军路线的轨道前进，起到了决定性作用。

　　1977年7月31日，叶剑英在中共中央、国务院、中央军委召开的隆重庆祝中国人民解放军建军50周年的大会上，发表了重要讲话。在这个讲话中，他回顾了人民解放军在中国共产党和毛泽东的培育领导下，战胜国内外强大敌人的光辉历史，全面系统地论述了毛泽东军事思想。他把毛泽东军事思想的内容概括为人民军队、人民战争和人民战争的战略战术三个方面，并分别作了具体阐述。他在讲话中，批判了林彪、"四人帮"破坏军队建设、毁我长城的罪行，并初步总结了粉碎"四人帮"近一年来军队拨乱反正的经验，提出了人民解放军在承先启后、继往开来的历史时期的光荣任务。他要求全国人民和解放军全体指战员，抓紧时间，加快速度，加强军队建设，加强民兵建设和人防建设，加强国防科学研究和国防工业生产。要认清形势，增强战备观念，充分做好反侵略战争的准备。要同台湾同胞一起，早日完成解放台湾、统一祖国的神圣大业。叶剑英的讲话，使全军指战员和亿万民兵受到了极大的鼓舞和教育。

　　1977年8月25日，中共中央发出通知，公布了第十一届中央军事委员会组成名单。华国锋为军委主席，叶剑英、邓小平、刘伯承、徐向前、聂荣臻为副主席。12月，中央军委在北京召开全体会议，叶剑英在会上所作的报告中，提出了军队建设要抓好的十项任务：(一)把揭批"四人帮"的斗争进行到底，夺取全胜；(二)贯彻毛泽东战略思想，做好战争准备；(三)整顿领导班子，加强干部队伍建设；(四)加强党的建设，充分发挥政治工作的威力；(五)把教育训练提到战略地位，加强军事科学的研究，提高我军军政素质；(六)大力抓好国防科学技术研究和军工生产，加速装备现代化；(七)继续搞好精简整编，改革兵役制度；(八)坚持勤俭建军的方针，加强后勤战备建设；(九)坚持三结合的武装力量体制，加强民兵建设；(十)恢复和发扬我军的优良传统和作风。叶剑英的这一报告，成为指导人民解放军在新的历史转变时期进行建设的纲领性文件，具有十分重要的意义。

　　在新的历史时期，如何正确确立新的战略方针，这是一个重大理论问题和紧迫的实际问题。对人民解放军在新时期的建设和发展，具有十分重要的现实意义。叶剑英根据国际国内形势的发展，领导全军高级干部认真而又广泛地开展了战略方针和战争初期问题的研究和讨论，对如何表述新时期战略方针作过多次重要批示，作出了新的解释，赋予了新的内涵，从而发展了毛泽东积极防御的战略思想。

　　从政治思想上加强军队的建设，是叶剑英一贯的主张。他多次强调要保持和发扬毛泽东倡导的优良传统和作风，特别是要加强军队的政治思想工作，坚持党的民主集中制原则，坚持三大纪律八项注意，搞好军政、军民团结，从各个方面把军队建设好，把国防力量壮大起来。1978年5月，全军召开政治工作会议，叶剑英在会上作了重要讲话。他针对林彪、"四人帮"破坏军队政治工作的罪行，回顾总结人民军队发展壮大的历史经验，深刻阐述政治工作是人民军队的生命线这一重要思想。他强调说；"我们军队在任何时候，任何条件下，政治工作只能加强，不能削弱。否则，我军就有脱离党的领导的危险，就有改变无产阶级性质的危险，就有失去战斗力的危险，就有被资产阶级野心家篡夺领导权的危险。党在军队中的政治工作关系着我军的强弱、胜败、生存和发展。政治工作是我军的生命线，我想它的深刻含义就在这里。"叶剑英的这个讲话，体现了毛泽东加强军队政治工作的一贯思想，并有所发挥，对恢复和发扬我军的优良传统，加强人民解放军政治工作建设起了十分重要的指导作用。