1978年12月18日至22日，中國共產黨第十一屆中央委員會第三次全體會議在北京召開，會議宣布恢復重建中共中央紀律檢查委員會。黃克誠被選為常務書記，時隔近20年後，他再次出現在公眾的視野，回到了政治舞台上。
上任前，黃克誠向中共中央紀委第一書記陳雲問了一個問題：「我們應該主要抓什麽？」
「黨風。」陳雲堅定地回答道。
黃克誠點點頭，深表贊同：「黨風搞好了，我們黨才有希望。」
在1979年1月4日，中共中央紀委召開了第一次全體會議上，黃克誠便在講話中表達了對開展工作的態度，並在毛主席此前要求的「五不怕」精神上，又提出了「兩個不怕」，分別是不怕撕破臉皮，不怕打黑槍。
黃克誠是這樣要求大家的，更是這樣嚴格要求自己的。同時，他對身邊的親人、朋友、工作人員和部下也同樣如此。
中央紀委成立後，針對黨內出現的一些貪汙腐敗、以權謀私等現象頒布了一系列規定。
黃克誠向妻子唐棣華提出要把「單位以前分給你的宿舍歸還給單位。」
唐棣華十分支持丈夫的決定，當即表示「我明天就去辦手續，還給單位。」
黃克誠十分感動，他感謝妻子理解自己的工作。在黃家，黃克誠還定下一個規矩，那就是不能有子女經商。黃家的孩子們聽後，也沒有過多反應，只是表示聽從。
1980年1月，李達、張才千被調離總參，張震則調來總參工作。大家都是老戰友，在總參主持工作的楊勇便在京西賓館請大家一起吃了頓飯。結賬的時候，楊勇用總參的名義開了一張400元的發票。
只是一頓飯，楊勇並沒有多想，但幾天後，中共中央紀委便收到了舉報楊勇的材料。黃克誠看到後，生氣地說道：「這件事，一定要查一下。」
一旁的秘書小心翼翼地說道：「只查這個事不太好，現在公款吃喝的現象也不少見，而且，楊勇和張震還都是您的老部下。」
黃克誠一聽，更是生氣，「一頓飯就花掉了400元，一個農民一年才能掙多少錢。這件事必須查，不僅要查，還得處理，發現一個查處一個。」
楊勇是黃克誠的愛將，兩人共同經歷過生死，又在特殊的年代一起挺了過來。楊勇不敢相信黃克誠會查自己。
參加這次飯局的同誌聽到風聲後，也紛紛去找黃克誠求情，希望能夠低調處理。但均遭到黃克誠的拒絕。
楊勇聽說後，心中也開始不滿，發起了牢騷。這些話也傳到了黃克誠的耳朵裏，他當即給楊勇打去了電話。楊勇一接起電話，就聽到對面說道：「楊勇，你這官是當大了，老虎的屁股摸不得了啊。」
黃克誠一句話點醒了楊勇，他立即承認自己的錯誤：「這件事是我的錯。你也不用查了，是我的主意。這錢我自己出。」
黃克誠繼續教育他說：「這可不單單是交錢的問題，涉及黨風問題，你作為高級幹部，越要嚴格要求自己，不然怎麽服眾呢。」
「黃老，我作檢討，然後總參紀委再發通報，要各級幹部以我為戒，您看這樣可以嗎？」
黃克誠這才掛了電話。
