叶剑英清醒地看到，林彪主持军委工作12年，对人民解放军建设的干扰和破坏是十分严重的。许多单位的问题已经达到了积重难返的程度。叶剑英紧紧抓住整顿军队，肃清林彪流毒和影响，提高部队战斗力这个中心环节，大力开展各方面的工作。

　　从1971年底开始，叶剑英即根据毛泽东的指示，同军委办公会议的成员一起，着手筹备召开一次中央军委扩大会议。他打算通过军委扩大会议，讨论解决全军存在的一些重大问题，制订有关方针政策，以指导全军各项工作的开展。为此，他夜以继日地工作。他指示：军委办公厅、三总部和军事科学院要分别组织专门小组，研究与自己有关的问题，为会议的召开准备文件和材料。他认为，会议的重点，是围绕贯彻毛泽东"军队要整顿"的指示，整顿与解决军队建设中存在的突出问题。为此，可以先征求各军兵种、各大军区的意见，在集中各大单位意见的基础上，写好会议文件，特别要写好会议的主报告和会议决议两个文件。1972年1至2月，他多次主持召开军委办公会议和文件起草小组座谈会，了解工作进度，听取汇报，提出意见。有时，会议从晚上8时开始，一直持续到第二天凌晨，长达五、六个小时之久。叶剑英不顾年迈有病，仍然坚持参加会议，认真听取大家的汇报，细致地研究文件中的各种问题。这种忘我工作的革命精神，使参加文件起草小组的同志们深受教育。

　　在军委扩大会议筹备过程中，叶剑英还十分注意征求军内一些老同志的意见。他指示工作人员，将收集整理的各大单位对召开军委扩大会议的建议等有关材料，呈送徐向前、聂荣臻阅示。徐向前、聂荣臻看过材料后，对如何肃清林彪流毒及加强军队建设问题，提出了许多很好的意见。叶剑英很重视两位老帅的意见，要求工作人员将意见写进会议的主报告和决议之中。

　　到1972年2月底，由叶剑英主持起草的《在军委扩大会议上的报告》、《中共中央军委扩大会议决议》两个文件的初稿形成了。在这两个文件中，对林彪主持军委工作12年中推行的一套错误的东西，进行了系统批判，同时，提出了整顿军队的内容和措施。文件中指出，整顿军队，主要是：整顿思想作风，肃清林彪推行的形式主义、实用主义、教条主义、军阀主义的流毒，恢复和发扬人民解放军政治工作的优良传统，坚持党对军队的绝对领导，坚持民主集中制的原则；整顿各级组织，理顺编制、体制，改革部队装备；整顿军事训练，肃清林彪制造军政对立，在军事训练中推行取消主义、形式主义的流毒，对部队进行严格训练，严格要求，提高部队的军事素质；整顿和健全规章制度，加强部队管理；整顿军队院校，恢复必要的指挥院校和技术院校。

　　军委扩大会议原定于1972年3月召开。但是，由于当时的政治形势等方面的原因，特别是由于江青一伙的干扰，会议未能按原计划召开。中央军委扩大会议，一直延至3年以后，即在1975年夏季才得以举行。