1940年5月16日，時任第33集團軍司令的張自忠親率指揮部和兩個團向日軍發起攻擊，面對兵力多達五倍的日軍，雙方反復沖殺，進行肉搏。張自忠先被炮彈炸傷，後又與兩名日軍肉搏。前胸、腹部多處受傷，後又被日軍用刺刀從前胸直穿後背，壯烈殉國。犧牲時年僅49歲，張自忠不但是整個抗日戰爭中犧牲的軍階最高的將領，也是整個第二次世界大戰中同盟國在前線犧牲的首位最高階將領。
張自忠犧牲後，為了能夠搶回將軍遺體，第38師師長黃維剛親率敢死隊夜襲南瓜店，搶回了將軍遺骸。
蔣介石在得知張自忠殉國經過和搶回遺體的過程後，內心悲痛不已。雖然張自忠並非自己的嫡系，但他畢竟是壯烈殉國的三星上將，而且蔣介石也懂得追悼死者，是為了獎掖生者的道理，當即表示不但要為張自忠舉行隆重的國葬，還要以國民政府的名義明令褒其忠勇，從優撫恤家屬。
馮玉祥作為西北軍的主帥，張自忠是他的老部下，當得知這一噩耗後，與夫人李德一起更是痛哭流涕，並作詩一首進行悼念。
「畫眉鳥，滿山叫。像什麽？哭又笑。哭何人？哭藎忱（藎忱是張自忠的字）笑什麽？笑混人。藎忱精忠為國報一死，混人愚昧卑怯自沈淪。」
張自忠的陣亡震驚全國，在國民政府決定舉行國葬的同時，延安也為張自忠舉行了追悼大會、毛主席，周副主席、朱總司令分別向張自忠致挽「盡忠報國」、「為國捐軀」、「取義成仁」。
在張自忠的靈柩沿著長江運往重慶途中，經過宜昌時，上萬群眾自發的在楊岔路接靈，護送張自忠上將的靈柩前往東山草堂停放公祭。
張自忠上將的靈柩運抵重慶朝天門碼頭時，蔣介石、馮玉祥不但率軍政官員前往碼頭迎接哀悼，還親自扶靈送至北碚雙柏樹暫厝。
5月28日，重慶國民政府為張自忠上將舉行了盛大國葬，蔣介石親筆題寫了「勛烈常照」的挽詞，馮玉祥的挽聯是「抗戰來建最大功勞正氣千秋死無遺恨，從戎後同半生患難國仇初雪慟失元良。」
隨後蔣介石和馮玉祥又親自扶靈下葬。蔣介石在這一系列追悼活動中，將自己樹立成了一個愛撫部下的最高統帥形象。
張自忠上將安葬於梅花山，整個墓占地3267平米，墓高2.64公尺，周長21公尺。馮玉祥親筆題「張上將自忠之墓」，蔣介石也題寫了「英烈千秋」四字刻碑立於墓前。
張自忠上將殉國後，為了紀念他，北平、上海、天津、濟南、武漢、徐州等各大城市紛紛將主要街道改名為「張自忠路」。
新中國成立後，1982年4月民政部追認張自忠將軍為革命烈士。2009年張自忠將軍被評為「100位為新中國成立作出突出貢獻的英雄模範人物」。2014年9月， 張自忠將軍名列第一批300名著名抗日英烈和英雄群體名錄。
