死守幷州一隅，與劉聰、石勒苦苦相持。劉琨對溫嶠十分器重，將他請來幷州，任為參軍。溫嶠經常率軍為前鋒，討伐劉、石，屢立戰功。當時幷州土地荒涼，城池殘破，外有強敵環伺，內則寇盜蜂起，形勢十分險惡。二十幾歲的溫嶠，成了劉琨倚憑的得力助手。
公元316年，匈奴兵破長安，擄晉愍帝，西晉滅亡。溫嶠奉劉琨之命，渡江南下，勸鎮守建康（今南京市）的琅琊王司馬睿稱帝，以系民心。溫嶠慷慨陳詞，深得司馬睿與王導、庚亮等朝士的器重。不久，司馬睿稱帝，是為東晉元帝。
溫嶠完成使命後，多次要求回幷州覆命，都被東晉君臣留住。不久，即傳來了劉琨遇害的噩耗。溫嶠悲憤異常，上書元帝，要求褒獎劉琨，以慰海內之望。元帝總算答應了他的要求。溫嶠也就一直留在江南。
永昌元年（公元322年），擁強兵、居武昌上游的大將軍王敦以誅殺奸臣為名，率軍直撲建康。此時，戰功卓著的大將陶侃被遠遷至廣州，王敦的族弟、前鋒大都督王導首鼠兩端，大將周札、劉隗等或開門應敵，或大敗而逃。王敦很快便攻陷了都城建康，晉元帝實際上成了俘虜。
城破之前，元帝之子、年方二十三歲的太子司馬紹氣憤難忍，欲駕車出城，率少數士兵與叛軍拼命。這時，身為太子中庶子的溫嶠急忙死死地拉住馬絡頭，苦苦勸諫道：“殿下國之儲副，奈何以身輕天下！”司馬紹不聽，溫嶠情急，抽劍砍斷馬肚子上的皮帶，這才勸住了他。
王敦攻下建康後，一時尚不敢取代司馬氏稱帝。司馬紹“神武明略，朝野之所欽信”，素來為王敦所忌憚。於是王敦大會百官，欲誣以“不孝”的罪名，將他廢了，聲色俱厲地問溫嶠：“皇太子有什麼德稱，而居此大位？”溫嶠絲毫不為王敦的淫威所屈，從容答道：“太子既有鉤深致遠之才，又有事親盡孝之禮，可謂賢孝雙全了。”百官都認為確實如此，王敦的陰謀才沒有得逞。
王敦在建康縱兵搶劫，誅戮朝臣，“改易百官及軍鎮，轉徙黜免者以百數”，隨心所欲，無所不為。不久，退還老巢武昌，但仍然是大權在握，搖制朝政。晉元帝於這一年憂憤而死，司馬紹繼位，這就是東晉歷史上最有作為的晉明帝。明帝拜溫嶠為中書令，機密大事都與他商決。這又引起了王敦的忌憚，於是表請溫嶠擔任自己的左司馬，目的是要把他捏在自己手心裡。明帝無力阻擋，溫嶠只得離開了建康。
溫嶠一到武昌，就對王敦講起帝舜服事唐堯、周公輔佐成王的故事，暗中希望他能幡然悔悟，效忠晉室。豈知王敦志在奪取皇位，哪裡聽得進半句！於是溫嶠便裝出恭敬的樣子，勤勤懇懇地為王敦辦理公務，並不時出謀劃策，投其所好。王敦也逐漸對他有了好感。錢鳳是王敦最寵信的心腹謀士，溫嶠又百般結好錢鳳，經常為他吹噓，說他“滿腹韜略”。溫嶠素有知人的美名，得到他的稱讚，錢鳳自然十分高興，也就深深地結好溫嶠。不久，丹陽（今南京市南）尹空缺，溫嶠便對王敦說：“丹陽是京師的咽喉，最好由明公選良才擔任；如果由朝廷任命，只怕不合明公的心意。”王敦一聽有理，就問：“你看誰去合適？”溫嶠明知王敦離不開錢鳳，卻故意說：“我認為沒有比錢鳳更合適的了。”錢鳳一聽，也趕緊推薦溫嶠。這一來，正中溫嶠的下懷——目的就是藉機離開王敦，好替朝廷效力。表面上卻百般推辭，說自己能力差，不足當此重任。王敦哪裡肯依，任命溫嶠為丹陽尹，並要他暗中觀察朝廷的虛實，隨時向自己報告。
溫嶠擔心自己一走，錢鳳就進讒言，致使王敦改變主意，追回自己。於是心生一計，在王敦為他舉行的餞別宴會上，溫嶠起身行酒，到了錢鳳面前時，錢鳳還沒有來得及飲，溫嶠便裝出喝醉的樣子，用手版將錢鳳的帽子擊落於地，嚴厲地說：“錢鳳算什麼東西？我溫太真敬的酒竟敢不飲麼！”弄得錢鳳十分狼狽。王敦以為溫嶠真的醉了，連忙將兩人勸開。第二天，溫嶠臨出發前，與王敦話別，又是鼻涕又是眼淚，好不傷心。幾次出了閣門又返身回來，顯出和王敦難捨難分的樣子，最後才上了路。果然，溫嶠剛走，錢鳳就對王敦說：“溫嶠向來和朝廷關係密切，又與朝臣庚亮等人交往很深，只怕不可輕信。”王敦不滿地說：“太真昨天喝醉了酒，稍微得罪了你，你怎能因為這個原因就來說他的壞話！”錢鳳無言對答。溫嶠終於機智而巧妙地脫離了虎口。
溫嶠一到建康，立即把王敦的叛逆活動全部報告了晉明帝，勸晉明帝早作準備，又和庚亮等人共同商量討伐王敦的計劃。王敦知道後，咬牙切齒地說：“我為小物年欺！”並揚