難，因此，為了解除政府代表的這種困難，周恩來在會談中同時還表示，他個人可以負責向延安建議：“（一）在第二期整編時不再依此比例，而另商辦法；（二）願由三人小組來商定第二期整編時國共軍隊的比例數。”這樣，周恩來既貫徹了中共中央關於第一期整編時至少堅持20個師的指示精神，同時又暗示中共方面在軍隊數目問題上最終是可以讓步的。
然而，張治中根本不接受周恩來所提出的方案。他認為，政府軍隊保留254 個師時，中共軍隊可編為20個師，若政府軍隊縮編至叨個師，中共軍隊應低於20個師。他提出，國共軍隊的比例應為6 ：1 ，即中共軍隊保留15個師，第二期整編時仍按此比例進行，無需另行商定。結果在三人小組預備會議上，國共雙方便在軍隊的數目問題上發生了激烈的爭執。
2 月14日，整軍談判正式開始。談判開始前，周恩來找馬歇爾談話，轉達中共中央關於軍隊比例的最新意見。他說，昨天有幾位同志從延安來，帶來了中共中央的意見，希望已規定的20個師不變更，因這已宣佈了很久；但在第二期整編時，願意維持5 ：1 的比例，即中央軍為50個師，中共軍為10個師。
從下午4 時起，軍事三人小組正式討論整軍問題。會談以馬歇爾草擬的整軍方案為基礎進行。當討論到國共軍隊的比例問題時，國共代表再次激烈交鋒。張治中堅持他原來的意見。他聲稱，在重慶談判期間，周恩來曾提出國共軍隊的比例為6 ：1 ，而赫爾利大使甚至提出7 ：1。雖然當時政府方面沒有承認國共軍隊永遠按6 ：1 的原則，但這的確是周恩來去年的希望。政府方面當時雖未應允這個比例，但現在可以同意。張治中說這番話的意圖顯然是要表明，相對重慶談判而言，國民黨方面現在所作的讓步是很大的，中共應當知足了。但周恩來不為所動，仍堅持中共軍隊至少編為。20個師。不過，為了解決問題，他也提出了一個折衷方案，即中共軍隊可以加快整編的速度，而國民黨軍隊仍照原計劃進行整編，例如，國民黨軍隊整編為叨個師需12個月，中共軍隊整編為20個師可縮短到9 個月。但張治中仍表示不能接受。
在雙方爭執不下的時刻，素有“眼前飛過的蒼蠅都能判斷其雌與雄，輕與重”之稱的馬歇爾經過揣摸雙方代表的心思後，又提出了一個折衷方案，即在整編第一階段的前9 個月，國民黨軍隊縮編為105 個師，中共軍隊縮編為20個師，到第12個月、國民黨軍隊縮為90個師，中共軍隊為18個師。
為了推動談判程序，周恩來率先表示同意馬歇爾所提之方案。經反覆討價還價，張治中最後表示接受按5 ：1 的比例整軍。於是，三人小組就軍隊數目問題達成協議，商定目前國民黨軍隊裁編為叨個師，中共軍隊裁編為18個師；整編全部完成後，全國軍隊編為60個師，其中國民黨軍隊50個師，中共軍隊10個師。根據這一方案，整編第一階段結束時，中共軍隊比原提之數少編2 個師，但到全部整編完成時，中共軍隊則比國民黨所提之6 ：1 的比例多一個半師。應該說這一方案基本上是公平合理的。但蔣介石卻認為，允許中共軍隊統編為18個師，是“政府最大之損失”。
整編的時間和程式問題，是馬歇爾在整軍談判中最為關心的問題。他的基本原則是“快編”。在2 月1 日和4 日的非正式會談中，馬歇爾曾向周恩來提過他的統編原則，主張在整編第一階段就以師為單位混編國共軍隊。其具體做法是，一部分軍由兩個中共師和一個政府師組成，軍長由中共將領擔任，另一部分軍由兩個政府師和一箇中共師組成，軍長由國民黨將領擔任；司令部則均由雙方人員組成。
周恩來不贊成在整編第一階段就混編國共軍隊，而是主張先平行整編。但他也沒有完全否定馬歇爾所提之方案。他認為，馬歇爾提出的統編辦法是公平的，基本上是可以接受的。周恩來在給中共中央的電報中曾說：“只要我們有信心、有魄力、有辦法，以一個軍長、兩個師長，還怕不能影響其餘一個師？至少亦不會被消滅，如此可保住6 個軍。另一方面，我們抽出6 個師參加他們6 個軍也可影響其一部，而不致被消滅。”所以，周恩來主張在第二期整編時逐漸試行馬歇爾的辦法。
但是，此時中共中央有自己的考慮。中共中央雖然準備在整軍問題上執行政協決議，並打算以自己的讓步來換取中共軍隊的合法化和國家政治的民主化，但考慮到軍隊問題在中國所具有的特殊意義，主張對馬歇爾所提之統編辦法謹慎從事，強調整