參加革命後，黃克誠戎馬倥傯，積勞成疾。到了晚年，病情愈發嚴重。
尤其是冬季寒冷，時常發作，大口大口地吐痰，有時一次要咳上幾十分鐘，憋得渾身直冒汗。
為了減輕他的病痛，同志們建議他冬季到南方去住。一些在南方工作的老部下，來北京看望他，也一再邀請他到南方去過冬天。
但是，黃克誠都一一婉言謝絕。
他說：“我已經八十多歲了，眼睛又看不見，一出去要帶隨員，需要花許多錢。而我出去卻做不了什麼工作，白白地給國家浪費錢財，也給地方上增加許多不必要的負擔。所以，還是不出去的好。”
從1977年底他擔任中央軍委顧問定居北京，直到逝世，黃克誠從沒有離開過北京。
即使是在1959年廬山會議被罷官之前，他雖然身居高位，但除了到外地開會和工作之外，也從來沒有力避寒暑或遊覽，而專程到外地去過。
黃克誠常常說：“我們都是國家幹部，吃的穿的用的都由國家負擔，這都是人民的血汗，一定要加倍珍惜。如果不是工作需要，即使是浪費掉一分錢，也愧對黎民百性。遊山玩水，大手大腳揮霍國家錢財，那不是共產黨人所為，而是國民黨作風。”
一位高階首長身邊，總是有許多工作人員：秘書、警衛員、護士、司機、炊事員……他們都是經過反覆挑選，才有幸被調到首長身邊的。
外邊的人很羨慕在這個小天地裡工作的人，可是身居其中的人，卻難於向人們傾吐自己的苦衷。
首長身邊的許多工作，保密性都很強，對工作人員要求很嚴。他們對外界的聯絡，甚至和親朋好友通個信，說個話，都要受到一定的約束。
有些喜歡活躍的年輕人，很不喜歡在這裡工作、覺得生活單調，甚至有點寂寞。
可是，由於黃克誠嚴於律已，平易近人，待人誠懇，這種情況沒有在他那裡出現。他身邊的工作人員，都感到像生活在自己家裡一樣溫暖。
1979年深冬。一天午後，護士李莉調到了黃克誠身邊。她得知首長雙目失明，又患有十四種疾病，感到壓力很大。
但李莉服從了組織決定，來見黃克誠。
見面之後，黃克誠對李莉首先講的不是在保健工作上對她的要求，而是吩咐秘書給她把住的房子安排好，收拾得暖和一些。秘書照辦後，黃克誠還不放心，又拄著柺杖來到李莉的房間，摸摸床上鋪得厚不厚，暖氣熱不熱。
黃克誠是個重病纏身的老人，活動很不方便。但是，吃飯、穿衣、洗澡、上廁所……這些事他都自理，絕不給李莉增加麻煩。
黃克誠有個雷打不動的習慣，每天早晨四點鐘起床，由護士或警衛人員陪同，散步鍛鍊身體。
可是，年輕人往往是貪睡的。
有一天早晨，李莉睡過了點，耽誤了黃老的鍛鍊。李莉深感內疚，而黃老卻一點也沒有責備她。
以後，再遇到這種情況，黃克誠在經過李莉的房間時，就用柺杖在門上輕輕敲兩下。
“李莉，起床了！”
其實，屋裡，李莉早已起來在洗漱了。
警衛參謀劉長春，1981年剛到黃克誠處工作，就有兩件事沒有處理好，但是黃克誠以他寬闊的胸懷，給予了諒解。至今，劉參謀提起來仍然激動不已。
劉參謀一上任，便遇到黃克誠在三○一醫院住院。他是在病房裡見到黃克誠的。
首長隨便問了他幾句家常話後，就讓他把便壺遞來要小解。可是，由於黃克誠的湖南口音太重，便壺兩字他就是分辨不清。他又問了兩次，黃克誠一個字一個字說給他聽，他仍然沒有聽懂。劉參謀急得滿頭大汗，在屋裡亂竄，依然沒有找到黃克誠要的東西。
最後，護士進來了，才弄清了是怎麼回事。可是，這時黃克誠的小便已經整整憋了半小時了。要知道，黃克誠小便失禁，這半小時他會多麼難受。
事情過後，劉長春心裡很不是個滋味。他覺得自己做錯了事，對不起黃老。
沒想到，黃克誠若無其事地對他說：“小劉，我當時知道你是沒有聽懂我的話，乾急沒辦法，怪我說不好普通話。沒關係，咱們相處時間長了，你就能聽懂我的話了。你不要在意，今後就大膽工作吧！”
黃克誠雖然沒有批評劉參謀一句，但是劉參謀心裡非常難受，他只恨自己不該讓一個多病的老人遭受那麼大的痛苦。接踵而來的第二件事，劉參謀也沒有處理好，因而使黃克誠受到了更大的痛