因此，彭德懷決心攻打榆林，調動胡宗南集團主力北上，以策應陳賡、
謝富治縱隊南渡黃河，挺進豫西，並取得兵員、物資補充，鞏固解放軍後方。
榆林是國民黨政府“北平行轅張垣綏靖公署晉陝綏邊區總部”的所在地，西與寧馬集團，南與胡宗南集團相呼應，北與綏遠傅作義相依託，是綏遠、陝西的重要門戶，該地有“晉陝綏邊區總部”總司令鄧寶珊部第二十二軍、胡宗南的一個旅及地方團隊等部共1。5 萬多人守備。
1947年7 月30日，彭德懷指揮西北野戰軍由大、小理河向榆林開進。8 月6日，對榆林外圍進行攻擊。戰至7 日，肅清了敵軍外圍據點，但攻城戰鬥一度受阻。
蔣介石得知西北野戰軍圍攻榆林後，坐立不安，擔心榆林不保，則寧夏孤立，而胡宗南一旦失去北面的作戰配合，將會影響整個西北戰局。即令榆林守軍堅守待援，急調在安塞、保安地區的胡宗南主力整編第一、第二十九軍共八個旅，分兩路開往綏德、佳縣方向。又命鍾松的整編第三十六師組成“快速兵團”，日夜兼程，進抵榆林。
國民黨整編第三十六師是胡宗南進犯延安的主力師之一。它共編有三個整編旅，即：整編第二十八、一二三、一六五旅。每旅各轄三個團，為半美械化裝備。進犯延安時，該師只率領著整編第一二三、一六五兩個旅，而每個旅亦只帶著兩個團。胡宗南的整個部隊進入陝甘寧邊區以後，被解放軍牽著鼻子在陝北高原上、山坳裡亂撞亂竄，尤其是第三十六師，從無定河到三邊，從西蘭路到古長城，每個角落都幾乎竄到過，有的地方還到過三四趟。
全師官兵被拖得暈頭轉向，精疲力竭，逃的逃，傷的傷，死的死，士氣一天天低落。該師想同解放軍決一死戰，但大部隊打不上，小部隊被吃掉。大隊人馬深入山區，交通困難，給養不足，於是到處搶奪老百姓的牲畜作運輸工具，挖掘群眾埋藏的糧食補充給養，拆毀民房作柴燒。邊區民眾對其恨之入骨。
敵整編三十六師接到援榆命令後，馬不停蹄趕奔榆林。該師師長鍾松十分狂妄，聲言：“共軍可以吃掉別的軍隊，就是吃不掉三十六師”，決心要“一戰結束陝北問題”。
8 月9 日，彭德懷獲悉援敵急速趕來後，立刻向中央軍委請示：榆林城堅，東、北兩面沙漠，西、南兩面水坑水道，不易進行攻城。現鍾松增援甚急，決心以兩個旅繼續圍城，集中六個旅先殲滅援軍再攻城。當天，中央軍委同意彭總作戰方案。
隨後，西北野戰軍得悉整編第三十六師在8 月9 日進抵距榆林320 裡之龍州堡，10日繼續向橫山前進。於是，彭德懷決心爭取先拿下榆林，而後再打援。8月10日和11日，西北野戰軍對榆林進行兩次爆破與強攻，但攻擊未能奏效。
此時，鍾松率整編三十六師繞走長城外的沙漠地馳援，避過西北野戰軍的阻援部隊，於8 月11日進抵橫山以北地區。敵軍逼近，圍城打援的戰機已失，西北野戰軍的處境變得險惡了。為爭取主動，另行尋機殲敵，彭德懷決定部隊12日撤離榆林。有的指揮員要求再攻一次，彭德懷斬釘截鐵他說：“說不打就不打，再有一個鐘頭能打下也不打了。再打下去就要被動，撤出來是主動的。撤出去，打的機會有的是，還可以打援兵，問題不在鄧（寶珊），而在胡（宗南）。我們要放長線釣大魚，把敵人來回拖，找準時機再釣他上來。”
我軍雖未能攻下榆林，但達成了吸引敵軍北進的戰略目的，給陳、謝渡
河南進造成了有利形勢。我軍從榆林撤圍後，中央軍委指示西北野戰軍在榆林、米脂間休整待機，隔斷劉戡、鍾松兩部，吸引該敵，以利陳賡、謝富治集團行動。彭德懷為了保障後方機關安全，並進一步迷惑敵人，誘使胡宗南在指揮上再犯錯誤，擺了一副東渡黃河的架式。他命令中共西北局和各後方機關從佳縣移至黃河以東，指示陝甘寧晉綏聯防司令部帶一些電臺過河，同時派出一部分兵力佯動。
敵軍果然上當。胡宗南的測向電臺及偵察兵報告說，西北共軍正“倉皇逃竄”，共軍到了佳縣已經彈盡糧絕，把大炮都埋了。胡宗南斷定西北野戰軍主力將渡河東去，嚴令各軍“迅速追擊，勿失此千載良機”。令劉戡率五個旅向佳縣急速前進，於8 月16日進到綏德義合鎮地區；又令鍾松率整編三十六師由榆林南下，與北進主力會臺。胡宗南企圖迫使我軍於兩河（黃河、無定河）之間決戰，在榆林、米脂、佳縣三角地區殲滅西北野戰軍。
敵三十六師這次援榆，經過長