「三大紀律八項註意」是革命成功的法寶，然而「三大紀律八項註意」並不是一撮而就的，是不斷發展最終形成的，而最初的起點居然是「紅薯」。
原來，在1927年秋收起義後，部隊在上井岡山過程中，戰士們又饑又渴，就不管不顧地把老百姓地裏的紅薯拔出來就吃，這一無紀律行為讓毛澤東甚為憂慮。
經過思考，毛澤東首先向部隊頒發了三項紀律，其中一項紀律就是「不拿農民一個紅薯」，後來又發展成「三項紀律六項註意」，經過不斷修改完善，最終形成「三大紀律八項註意」。
1937年，時任紅軍抗日軍政大學第三期第六隊隊長、戰功赫赫的老紅軍黃克功，因為戀愛逼婚不成，竟然槍殺了陜北公學的學員劉茜。很多人認為黃克功畢竟戰功赫赫，不如饒他一命，就算讓他死，就讓他死在戰場上吧！功不掩過，黃克功最終被執行死刑，下面直接把當時毛澤東給陜甘寧邊區高等法院院長雷經天的信中部份內容附上：
……如為赦免，便無以教育黨，無以教育紅軍，無以教育革命者，並無以教育做一個普通的人。因此中央與軍委便不得不根據他的罪惡行為，根據黨與紅軍的紀律，處他以極刑。正因為黃克功不是一個普通人，正因為他是一個多年的共產黨員、一個多年的紅軍，所以不能不這樣辦。
建國後初期，有「共和國反腐第一案「之稱的劉青山、張子善案件，在公審大會上，有人提出給他們一個改過自新的機會，不要槍斃他們，毛澤東同樣指出：
正因為他們兩個的地位高、功勞大、影響大，所以才要下決心處決他們。只有處決他們，才可能挽救20個、200個、2000個、20000個犯有各種不同程度錯誤的幹部。
正是這鐵一樣的紀律，對違法亂紀幹部堅決打擊的做法，讓軍隊得到了老百姓的支持，成為日後勝利的關鍵因素之一。
