對父親說，總參謀部，你要在兩年內給我實現這個目標。
即使這樣，彭德懷還是不滿意。一年後，他又說，從軍費開支來看，用於吃、穿、訓練、修理、辦公雜支、工程建築、動員復員的費用，佔去大部分，這樣怎麼能迅速提高軍隊的裝備質量呢？因此還要裁減。重點是，平時沒有迫切需要的勤務部隊，可辦可不辦的學校，任務重疊或者可以合併的機關部門。1957年1月中央軍委召開擴大會議，透過了《關於裁減軍隊數量加強質量的決定》，這就是通常說的第四次精簡整編，它延續了近兩年，到1958年底才算結束。
父親成為第三次精簡整編決定的落實者和第四次整編方案的主要策劃者和制定者。他說：“不是零敲碎打，而是要從根本上設計，把戰時編制轉為平時編制，做到平戰結合。”
父親在總參主管我軍編制長達10年；主管武器裝備長達30年，他對軍隊編制體制和武器裝備的建設和發展形成了自己系統的思路和方法。我後來也曾在大軍區的組織編制部門工作過一段時期，有機會多次帶著問題與父親作長時間的討論。他搞編制的主導思想是：“作戰決定編制。”
他說：“不先研究透戰爭，不對未來打什麼仗、和誰打、怎麼打，有個基本的思路，就談整編，談精減，談編制，談裝備，那是天方夜譚！”
“一上來就喊，給我減掉100萬。為什麼？減誰？為什麼不是120萬，也不是80萬？最後的結果，只能是平攤。這個部門分10個，那個部門分10個。要不了幾年，又都回來了。”