會秦涼屢敗，祜復表曰：“吳平則胡自定，但當速濟大功耳。”而議者多不同，祜嘆曰：“天下不如意，恆十居七八，故有當斷不斷。天與不取，豈非更事者恨於後時哉！”
其後，詔以泰山之南武陽、牟、南城、梁父、平陽五縣為南城郡，封祜為南城侯，置相，與郡公同。祜讓曰：“昔張良請受留萬戶，漢祖不奪其志。臣受鉅平於先帝，敢辱重爵，以速官謗！”固執不拜，帝許之。祜每被登進，常守衝退，至心素著，故特見申於分列之外。是以名德遠播，朝野具瞻，摚�鸛菀椋�本猶ǜā５鄯接屑娌⒅�荊�天鏌遠�現�危�是拗�ｌ錮�岸���蔚涫嘁���濾鷚媯�在遜醚桑�評��螅�匏�賾搿Ｆ浼文壁砸椋�苑倨洳藎�適濫�擰７菜��錚�私圓恢��傘；蛭屆鍔髏芴��擼�鐫唬骸笆嗆窩造＃》蛉朐蛟煜ィ�鱸蜆畲牽��疾幻苤�耄�嵛┚迤洳患啊２荒芫儐腿∫歟�竦貌煥⒅�酥�言眨∏野菥艄���歡魎矯牛�崴�蝗 ！�
祜女夫嘗勸祜“有所營置，令有歸戴者，可不美乎？”祜默然不應，退告諸子曰：“此可謂知其一不知其二。人臣樹私則背公，是大惑也。汝宜識吾此意。”嘗與從弟琇書曰：“既定邊事，當角巾東路，歸故里，為容棺之墟。以白士而居重位，何能不以盛滿受責乎！疏廣是吾師也。”
祜樂山水，每風景，必造峴山，置酒言詠，終日不倦。嘗慨然嘆息，顧謂從事中郎鄒湛等曰：“自有宇宙，便有此山。由來賢達勝士，登此遠望，如我與卿者多矣！皆湮滅無聞，使人悲傷。如百歲後有知，魂魄猶應登此也。”湛曰：“公德冠四海，道嗣前哲，令聞令望，必與此山俱傳。至若湛輩，乃當如公言耳。”
祜當討吳賊功，將進爵土，乞以賜舅子蔡襲。詔封襲關內侯，邑三百戶。
會吳人寇弋陽、江夏，略戶口，詔遣侍臣移書詰祐不追討之意，並欲移州復舊之宜。祜曰：“江夏去襄陽八百里，比知賊問，賊去亦已經日矣。步軍方往，安能救之哉！勞師以免責，恐非事宜也。昔魏武帝置都督，類皆與州相近，以兵勢好合惡離。疆埸之間，一彼一此，慎守而已，古之善教也。若輒徙州，賊出無常，亦未知州之所宜據也。”使者不能詰。
祜寢疾，求入朝。既至洛陽，會景獻宮車在殯，哀慟至篤。中詔申諭，扶疾引見，命乘輦入殿，無下拜，甚見優禮。及侍坐，面陳伐吳之計。帝以其病，不宜常入，遣中書令張華問其籌策。祜曰：“今主上有禪代之美，而功德未著。吳人虐政已甚，可不戰而克。混一六合，以興文教，則主齊堯舜，臣同稷契，為百代之盛軌。如舍之，若孫皓不幸而沒，吳人更立令主，雖百萬之眾，長江未可而越也，將為後患乎！”華深贊成其計。祜謂華曰：“成吾志者，子也。”帝欲使祜臥護諸將，祜曰：“取吳不必須臣自行，但既平之後，當勞聖慮耳。功名之際，臣所不敢居。若事了，當有所付授，願審擇其人。”
疾漸篤，乃舉杜預自代。尋卒，時年五十八。帝素服哭之，甚哀。是日大寒，帝涕淚沾須鬢，皆為冰焉。南州人徵市日聞祜喪，莫不號慟，罷市，巷哭者聲相接。吳守邊將士亦為之泣。其仁千所感如此。賜以東園秘器，朝服一襲，錢三十萬，布百匹。詔曰：“徵南大將軍南城侯祜，蹈德衝素，思心清遠。始在內職，值登大命，乃心篤誠，左右王事，入綜機密，出統方岳。當終顯烈，永輔朕躬，而奄忽殂隕，悼之傷懷。其追贈侍中、太傅，持節如故。”
祜立身清儉，被服率素，祿俸所資，皆以贍給九族，賞賜軍士，家無餘財。遺令不得以南城侯印入柩。從弟琇等述祜素志，求葬於先人墓次。帝不許，賜去城十里外近陵葬地一頃，諡曰成。祜喪既引，帝於大司馬門南臨送。祜甥齊王攸表祜妻不以侯斂之意，帝乃詔曰：“祜固讓歷年，志不可奪。身沒讓存，遺操益厲，此夷叔所以稱賢，季子所以全節也。今聽複本封，以彰高美。”
初，文帝崩，祜謂傅玄曰：“三年之喪，雖貴遂服，自天子達；而漢文除之，毀禮傷義，常以嘆息。今主上天縱至孝，有曾閔之性，雖奪其服，實行喪禮。喪禮實行，除服何為邪！若因此革漢魏之薄，而興先王之法，以敦風俗，垂美百代，不亦善乎！”玄曰：“漢文以末世淺薄，不能行國君之喪，故因而除之。除之數百年，一旦復古，難行也。”祜曰：“不能使天下如禮，且使主上遂服，不猶善乎！”玄曰：“主上不除而天下除，此為但有有父子，無復君臣，三綱之道虧矣。”祜乃止。
祜所著文章及為《老子傳》並行於世。襄陽百姓於峴山祜平生遊憩之所建碑立廟，歲時