兵馬未動，糧草先行。對於一個百萬之眾的野戰軍來說，後勤保障是一個大問題。作為四野的最高統帥，林彪對於軍事後勤自有一套辦法，何況他還是平津前線總前委書記，毛澤東賦予他平、津、唐地區“所有軍事、政治、財政、經濟、糧食、貨幣、外交、文化、黨務及其他各項重要工作均歸其管轄”的巨大權力。在不長的時間裡，林彪組織召開了供給會議、衛生會議、行軍沿途的保障會議及鐵路運輸會議，對南下作戰的後勤保障做了周密的安排：——南下前每人發單軍裝、布鞋和膠鞋；營以上幹部每人發一件雨衣，連以下人員每人發一塊油布；向各軍提前撥付了三個月的經費和部分預備費，配足三個月的食鹽；印發了開進途中使用的糧、草票證；各軍發給三個月的藥品。
——為做好沿途保障，設立天津留守處，由後勤部第二部長李聚奎兼主任，指揮接轉東北物資；成立三個醫管處，各領導六所後方野戰醫院，隨各兵團南下；野戰軍在衡水設立野戰醫院，六個後勤分部亦各自開設兵站醫院。
——華北人民政府每隔70華里設一小站，負責柴草供應；每200 華里設一大站，負責糧襪供應。並籌集糧食3000萬公斤，馬料1147萬公斤，馬草1665萬公斤，燒草2883萬公斤，以及大批副食品。野戰軍自己籌集1000萬公斤糧食，825 萬斤東北豆餅（馬料），並先期運往鄭州、灤河一帶。
——組成由天津經濟南、徐州、鄭州至信陽的鐵路運輸幹線，並已傳送200 多個專列，共7422個車皮，其中彈藥681 車皮已運往洛陽。鄭州一帶。野戰軍自備1200餘輛汽車，以保障短途和不通火車路段的交通運輸。
應該說，在黨政軍民“一切為了前線”的原則下，後勤保障的困難相對較容易克服，而幹部戰士中暴露出的或潛在的思想問題，更引起了林彪、羅榮桓的重視。
當時，蔣介石集團還有百多萬軍隊，憑藉長江天險以抗衡；四野的進軍方向，從大別山到五指山，崇山峻嶺，道路崎嶇；且夏季將到，炎熱多雨，蟲蟻滋生；加之語言複雜，交往困難，供給不足，等等。不利的因素在幹部戰士中產生了不利的影響。
從主觀上說，在連取遼瀋。平津兩大戰役的勝利後，四野內部一部分同志中出現了和平鬆弛、貪圖享樂、害怕犧牲的思想，東北。華北等解放區的一些戰士和基層幹部有戀家情緒，不願南下，這成為南下作戰的一個不小的障礙。
解決思想認識問題，政治工作是個法寶。羅榮桓是掌握這個法寶的行家裡手。在他的領導下，四野在整訓中展開整頓思想作風的工作，進行將革命進行到底的教育，批評“三墒土地一頭牛，老婆娃娃熱炕頭”的思想。透過整訓，幹部戰士們認定必須南下渡江，將革命進行到底。“改造和融合起義、解放過來的戰士，也是一項艱鉅工作。從遼瀋戰役至平津戰役，四野從起義、俘虜國民黨士兵中，補充了約26萬人。有的連隊中，起義、解放戰士佔一半，有的則超過了一半。改造和融合這些士兵，主要的辦法是進行階級教育，引導大家”倒苦水“、”挖苦根“，把仇恨集中到國民黨軍隊及其政權身上。
對於幹部，特別是高階幹部中存在的問題，羅榮桓狠狠批評了五種惡劣作風：無政府無紀律狀態；事前不請示，事後不報告的錯誤態度；瞞上不瞞下，報好不報壞，報喜不報憂的無原則現象；經驗主義和遊擊主義；將自己領導的區域、工作部門或軍隊看成好像一個獨立王國的危險現象。
林彪對四野高階幹部中存在的驕傲自滿、以功臣自居的現象深惡痛絕。在高階幹部會議上，他作了《論團結》的報告，側重強調了反對驕傲自滿和加強集體領導的問題。林彪在剖析了驕傲自滿產生的原因後，詳細指出了在四野幹部中的表現。他最後說：“今天，一我們要做的事情還很多，要打仗，要發動群眾，要管理城市，要鞏固部隊，要練兵。但一切工作都要幹部去做，而幹部的問題首先就是團結問題。團結的最好辦法，一是彼此都很謙虛，不是張牙舞爪的驕傲；再是各單位的領導人要常常會商，凡是對的，大家就要贊成，就要互相撐腰，互相尊重，那麼力量就大了。”
為了把渡江南下的準備工作引向深入，林彪同羅榮桓、譚政商量，決定請朱德總司令給連以上幹部作一次動員報告。要請朱德，林彪的考慮是：朱老總是黨中央“五大領袖”之一，是德高望重的人民解放軍總司令，在部隊中有崇高的威望。從井岡山斗爭時期開始，林彪一直是朱德的部下。朱德器重林彪，讚賞他優秀的軍事才能；而林彪對