1977年底，刘华清同志任国防科委副主任。1979年2月，任解放军总参谋长助理。1980年1月，任解放军副总参谋长，主管装备、军务和动员工作。他直接参与和组织制定了国防科学技术发展规划纲要，创造性地组织拟定了全军常规武器装备体制等文件，对明确军队武器装备和国防科技工业的发展方向起了重要作用，保证了我军武器装备研制、生产、采购、保障等工作的科学化、规范化和体系化。他推动建立和完善规章制度，加强军队装备维护和管理，提高了装备完好率。他领导总参军务部起草军队精简整编方案，为军队精简整编提供了依据。他积极探索新形势下部队管理教育特点规律，推动颁发《贯彻共同条令检查标准》。积极推动民兵组织调整改革、修改兵役法、建立退伍军人预备役登记制度、改进民兵军事训练和战时动员工作。1981年5月，任军委战略武器定型委员会主任，领导定型和生产了20多项常规和战略武器。

　　1982年8月，刘华清同志任海军司令员、党委副书记。他与海军党委一班人在海军进行全面整顿，果断处理了历史上特别是“文化大革命”遗留下来的一系列问题，消除派性，增进团结，使海军面貌发生重大变化。他着眼建设强大海军，强调增强海洋意识、维护海洋权益、经略海洋，提出并确立了中国海军战略理论，提出了海军作战方针和海军装备发展方针。组织拟制了《海军2000年前发展设想和“七五”建设规划》、《2000年的海军》、海军装备发展规划。他领导进行海军军事训练、院校教育、装备管理、编制体制、后勤保障、战场建设等各方面的改革，开创了海军建设新局面。他领导制定和颁发了《海军师以上首长机关训练大纲》，领导组织首次西太平洋海域远航合成训练、首次驱逐舰编队出访南亚三国、首次南极考察等，在海军训练史上写下了崭新的一页。他高度重视海军装备建设，参与领导了导弹驱逐舰等一大批新型舰艇、飞机、导弹武器装备的发展决策和研制生产，组织指挥了水下发射运载火箭，使海军装备水平大幅度提高。他积极推动建立海军装备论证中心、海军学术研究所等科研机构，领导大力开展与外国海军代表团及编队互访，并率中国海军代表团访问了英、美、法等多个国家，促进了与各国海军的友好往来与学习交流。

　　1987年11月，刘华清同志任中央军委委员、副秘书长。1988年初，他组织力量自主研制空中加油机，历经6年努力通过了定型审查，结束了国产飞机不能空中加油的历史，为海空军的空中远程作战提供了保障。为建设永兴岛机场，他三赴西沙调研。为适应军队建设的战略性转变，他参与领导调研论证加快和深化军队改革工作，组织拟制了《加快和深化军队改革的工作纲要》，经中央军委批准后颁发。1988年6月，任中央军委国防科技装备体制改革小组组长，提出加强武器装备集中统管的建议和方案。他负责主持制定加快空军建设发展规划和具体实施方案，对一些需要尽快攻关的重大关键技术难点和久拖不决的问题大胆拍板，勇于负责。1989年8月，他根据当时的国际环境及时向中央提出独立自主加快武器装备发展的建议。1989年11月，刘华清同志任中共中央军事委员会副主席。1990年4月，任中华人民共和国中央军事委员会副主席，并任军委军队建设“八五”计划和十年规划领导小组组长，组织制定了《中央军委关于“八五”期间军队建设计划纲要（草案）》。

　　1992年10月在党的十四届一中全会上，刘华清同志当选为中共中央政治局委员、常委，进入新一届中央领导集体，继续任中央军委副主席，协助军委主席江泽民同志主持中央军委日常工作。他高举中国特色社会主义伟大旗帜，坚决贯彻毛泽东军事思想、邓小平新时期军队建设思想、江泽民国防和军队建设思想，积极推进人民解放军革命化现代化正规化建设。根据中共中央、中央军委的战略部署，坚持把革命化放在首位，加强军队思想政治建设，坚持党对军队绝对领导的根本原则，发扬老红军优良传统，强调加强军队党的自身建设和我军宗旨教育，保证人民军队建设的正确方向；积极研拟和坚决贯彻新时期军事战略方针，着眼打赢高技术条件下的局部战争，提高我军在现代化条件下的防卫能力；坚持把教育训练摆到战略位置，从难从严训练部队，加强院校建设，培养和造就大批现代化军事人才；走中国特色精兵之路，坚持精兵合成、提高效能、平战结合的原则，不断优化军队的编制体制，强化军队质量建设；重视加强各级领导班子建设，坚持公道正派地培养、选拔和使用干部，狠刹用人上的不正之风，保证大批德才兼备的优秀干部得到提升使用；坚持依法治军、从严治军，科学管理部队，发扬尊干爱兵的优良传统；坚持艰苦奋斗、勤俭建军，充分挖掘现有物质条件的潜力，努力提高后勤保障能力；坚持改革创新，开拓进取，努力建设一支强大的现代化正规化的革命军队。他不顾年事已高，经常深入基层，调查研究，及时发现和解决部队建设中的问题。