恰好是暫編第七師張躍武的防區。國民黨海軍第二艦隊司令林遵是一位憂國憂民正直的海軍軍官，對蔣介石的統治，心懷不滿。其統轄的第二艦隊中有共產黨地下活動，他早有耳聞，儘管身邊人有提醒他，他卻充耳不聞。三大戰役結束後，林遵已發現國民黨的反動統治快結束了，他的思想真正產生了波動。這時第二艦隊中的地下黨人主動接近他，規勸他起義脫離國民黨。林遵看到國民黨大勢已去，也有心投向共產黨。
暫編第七師參謀長鄭劍鋒接到江北電報：設法勸說林遵適時起義。鄭劍鋒和張躍武一起商議。張躍武以暫編第七師少將師長的名義，宴請林遵，決定給林遵再燒一把底火。張躍武不知道林遵部早有共產黨活動，所以宴席上，張躍武試探地說：“林司令，此次國共合談，達成協議*要過江；達不成協議，*也要過江。你我的前途難測啊。”林遵從張躍武的這句話時，聽出張躍武不是死心塌地追隨蔣介石的將領。就謹慎地說：“樹倒猢猻散，人各有志。”暫編第七師參謀長鄭劍鋒也好象洩氣地說：“今天在此地，我方以地主之誼請林司令喝酒，也許一個月、也許兩個月後，說不定我們會在*的戰俘裡見面的，到那時真是‘其景可慘，其情可嘆’了。”張躍武接過鄭劍鋒的話說：“鄭參謀長的話也不能說得這樣悲觀。國民黨如今是四腳朝天的死王八，翻不起個了。林司令是深明大義之人，說不定*過江後，我們能和林司令都出現在*首長指揮部中，大家熱情地以平等之禮相見。”在酒席桌上的林遵聽出話裡的意思，但摸不清張躍武和鄭劍鋒究竟是何種身份的人，所以沒說什麼。但他心裡在想：國民黨這些將領此刻都已對國民黨喪失信心，國民黨真完了。因此對林遵感觸很大。
四九年四月二十二日，我百萬大軍強渡長江之時，林遵即和江北的我三野三十五軍取得聯絡。國民黨海軍第二艦隊九艘軍艦、十六艘炮艇，在南京江面通電起義轉向共產黨一邊。
國共雙方正在北平談判。蔣介石卻大耍兩面手段。四九年元月一日，淮海戰役尚未結束，蔣介石在南京發表元旦文告，假惺惺呼籲和平，並聲稱：“個人的進退出處絕無縈懷，而惟一國民的公意是從。”他蔣介石是這樣說的，但他這樣做了嗎？元月二十一日，蔣介石宣告下野，即轉道漸江奉華，指揮制定長江防衛計劃。二十二日，李宗仁繼任代總統。李上任後即安排國民黨和談代表北上與*會談。二月二十四號，正式組建“南京政府和平商談代表團”與*在北平正式會談。李宗仁的南京政府組建這個代表團與*拖延時間是真，政府並未真心和談，其目的妄想阻止人民解放軍過江。李宗仁調集國民黨軍五個軍、十多個師十幾萬人，佈置在南京、鎮江一線，以加強對南京的防務。張躍武的暫編第七師移防南京，擔任南京的守衛部隊。
此時的南京城裡人心惶惶，國民政府各大機關已紛紛南遷。南京政府各部門人走樓空。李宗仁還在代總統的位子上過把癮，找人開會，電話聯絡半天，開會時人還到不齊。國民政府機關有的已在南方廣州辦公，有的還在南遷的路上，這位李代總統只能幹計較、幹發火。四月二十日，是國共雙方和談、達成和平協定簽字的最後日期，南京國民政府拒絕在和平協定上簽字。李宗仁代總統則向共產黨提出要求暫緩簽字日期。蔣介石則說：“和平協定就是投降條件。”他甚至大罵國民黨和談代表叛黨誤國，為此蔣介石曾在日記中寫道：“*對政府代表所提修正條件二十四條款，真是無條件的投降處分之條件。其前文敘述戰爭責任問題數條，更不堪言狀矣。黃紹閎（國民黨和談代表之一）、邵力子等居然接受轉達，是誠無恥之極者所為，可痛！”
人民解放軍可不理會蔣介石、李宗仁等人的感受。二十日夜，人民解放軍中路大軍首先突破安徽安慶、蕪湖一線的長江防線，一天一夜即渡過三十萬大軍。二十一日下午天黑前，我西路大軍自九江、安慶段開始強度長江，並一舉突破長江防線。國民黨陸、海、空立體防守的長江防線傾刻間土崩瓦解。我人民解放軍在中路和西路強渡長江天險，而東路的南京一線人民解放軍為什麼沒有強渡長江呢？因為以毛澤東為首的共產黨人想給李宗仁的南京政府一個悔悟的機會，以減輕對面南京的軍事壓力，促使南京政府和談。為此擔任攻擊任務的我三野部隊甚至連江北南京對面的兩浦都沒有攻佔。四月二十日下午，南京國民黨政府拒絕簽訂和平協定的訊息傳到三野前線，我中路大軍橫渡長江之時，我三野野司首長下令攻佔兩浦，威逼南京。二十三日我軍攻佔江北所有陣地，到達浦口江邊，準備從正面強渡長江，攻佔南京。