湯恩伯和陳大慶已將指揮所移至吳淞口外的軍艦上。一方面，他們按照蔣介石的旨意，匆忙而焦急地部署守軍全面撤退；另一方面，這些掌握軍政大權、曾鼓吹“要與上海共存亡”的頑固官員，均在尋找替身，準備逃竄。
5 月對日下午，陳大慶壯著膽子在自己家中召集最後一次軍事會議，冠冕堂皇地說是為了調整防務，固守陣地，實質上是在安排後事。會上，陳大慶臉色陰沉，以嘶啞的聲音說道：“上海保衛戰至此，我們已經得到大的勝利。現在，我們不得不做軍事戰略上的調整。我已經和湯先生說好，今天夜間，蘇州河以南第75、54軍、浦東方向的第37軍全部撤至蘇州河以北，河南只留下四個交警總隊。第51、123 、21軍組成兵團，防守蘇州河北。沿河有高樓大廈，又有蘇州河作屏障，防務十分鞏固。”陳大慶心裡明白，長江立體防線都被解放軍一舉沖垮，這小小的蘇州河怎在解放軍話下。他按照事先與湯恩伯商定的計劃，任命重新組建的第51軍軍長劉昌義為淞滬警備司令部副司令兼北兵團司令。這樣湯恩伯、陳大慶就把一付要散架的爛攤子撂給了劉昌義。此時此刻，劉昌義心裡也很清楚：湯恩伯、陳大慶留下來的第51軍是匆匆拼湊起來的，第21軍是四川部隊，第123 軍由蘇北民團組成，他們把這些雜牌軍當作掩護撤退的擋箭牌和犧牲品，把我當成替死鬼，我劉昌義也沒有那麼呆！
上海市長陳良也在急於尋找代理人。他曾找顏惠慶、張菊、徐寄三位有名望的老人商量，請他們出山代理市長。可誰都不願當替死鬼。陳良無奈，只好軟硬兼施把工務局長趙祖康抬出來代理市長，並在24日上午召開的警察局長會議上宣佈了這一決定。趙祖康早與中共上海地下黨有聯絡，曾得到地下黨的指示，“如果有機會，應該把上海的政權接過來，迎接解放。”這一天終於到來，趙祖康暗暗自喜，為有機會維持上海秩序，保護上海，把大上海完整地交給人民而感到興奮，下令警察局要維持好秩序和社會治安，避免同解放軍衝突。隨後，趙又主動與中共代表李公然聯絡，商定了八條安全移交上海的具體事項。趙祖康的行動為我軍順利接收上海創造了有利條件。
國民黨軍政頭目紛紛潛逃，部隊已處於土崩瓦解之勢。24日下午，逃至吳淞口外軍艦上的湯恩伯密令其嫡系各軍及各特種兵部隊準備登船撤逃。為掩護其親信部隊安全撤離，湯恩伯不惜丟棄雜牌軍。至25日，潰逃之敵第52、54、12軍及第四第99師和各特種兵團殘部均已集結在高橋。吳淞一帶窄小地區，遭我軍密集炮火猛烈轟擊。那些等船潰逃。膽戰心驚的敵軍官兵如熱鍋上的螞蟻，亂作一團。刺耳的喇叭聲、叫罵聲、哭喊聲交織在一起，如同為殘兵敗將送行的哀樂。
就在敵人狼狽潰逃之時，我軍鉗擊吳淞口的東、西線部隊加緊對敵攻擊，夾緊鋼鉗，截斷敵人的海上逃路。
湯恩伯、陳大慶等一夥軍政頭目乘坐的軍艦早已遠離長江口，正逃出黃浦江口的幾艘敵艦加足馬力向海上駛去，幾艘後逃的艦艇遭我遠端炮火轟擊，冒起股股濃煙。惟一的黃浦江水上通道已被我軍完全卡死，上海市區的守軍成了甕中之鱉。
5 月25日凌晨，我軍佔領蘇州河以南地區後，欲乘勝過河，全殲市內守敵。但是，各部隊從拂曉一直打到中午，仍未能過河，傷亡較重。原來，北岸守敵第37、51軍（重新組建）和交警部隊，憑藉高樓大廈和工廠、倉庫等堅固建築物和大量永固性碉堡，居高臨下，織成稠密的火力網，封鎖住整個河面和南岸沿河馬路。坦克、裝甲車日夜巡邏，稍有動靜就噴射擊猛烈的火力，阻止我軍前進。特別是第37軍，是年初偽國防部蒐羅社會上亡命之徒組成的青年軍，配有美式裝備，戰鬥力較強。
本來，該軍想隨湯恩伯至吳淞口登船出逃，因逃路被斷，只好半途折返回原地駐防，繼續頑抗。
我軍指戰員被敵人的頑固和兇殘激怒了。大家心中暗暗發誓，要為死難的戰友報仇。有的部隊把榴彈炮營從郊區拉到了外白渡橋南岸，有的調來幾十門大炮，將炮口對準百老匯大廈，想用炮火把對岸敵人連同那些高大建築物一起摧毀。第27軍軍長聶鳳智、政委劉浩天，心裡時刻牢記著陳毅同志“要把上海完好地交給人民”
的囑咐，一方面命令部隊不準輕舉妄動，一方面深入部隊瞭解戰況，做思想工作，研究解決辦法。
聶軍長、劉政委來到西藏中路一個團的陣地上，看到幹部、戰士們渾身是土。
滿臉是汗，一雙雙佈滿血絲的眼睛充滿著激憤和期待