第二阶段：1954年至1958年底，人民解放军按照全国军事系统党的高级干部会议确定的精简整编规划和贯彻党的第八次全国代表大会精神，又进行了第三、四两次大的精简整编。其中，第三次精简整编工作从1954年2月全面开始至1955年底结束，是落实1953年12月7日—1954年1月26日军事系统党的高级干部会议精神对人民解放军现代化建设总方针总任务的回应。全军总兵力共精简了21.2%，总员额减到350万人。其中陆军部队裁减比例最大，特种兵得到加强，极大地推进了人民解放军合成化建设。军费开支由1953年占国家财政总支出的34.2%下降到24.1%。通过整编，全军基本上做到了人员统一编制、武器统一定型，人民解放军基本上实现了单一兵种向诸军兵种合成化的转变。
第四次精简整编是对国家大规模经济建设的回应。整编工作从1956年11月开始，中央军委扩大会议于1957年1月通过了《关于裁减军队数量加强质量的决定》，确定全军总人数再裁减1/3，要求3年裁减130万人，压缩至250万人左右。到1958年底结束，全军成建制地集体转业或移交地方1个军部、46个师、30余所医院和30余所院校。全军总员额降至240万，是新中国成立后人民解放军人数最少的时期。其中陆军裁员最多，陆军编制人数仅相当于新中国成立时的1/3，约占全军总员额的54.6%。在减少陆军的同时，加强了海、空军和各技术兵种的建设。到1958年，调整后的海军、空军和陆军各技术兵种的人数已占全军总人数的32%。军费开支占国家总财政支出比例下降到12.2%。这次精简整编主要裁减了陆军、公安军和各级机关党校及其附属单位和勤务分队，人民解放军合成化程度显着提高，编制体制实现了一次根本性调整。精简整编紧紧围绕着军队建设和国家经济建设关系这一主题展开，是对党探索进行大规模经济建设主题的回应。
20世纪50年代经过四次精简整编，人民解放军总员额得到有效控制，军费开支大幅下降，有力地支援了国家经济建设。更具意义的是，通过四次精简整编加强了海、空军和陆军各技术兵种的建设，创建了海军、空军、公安军、防空军及炮兵、装甲兵、工程兵、通信兵、防化兵，形成了五大军种和七大兵种，从根本上改变了人民解放军以陆军为主的单一军种局面，调整后的
