1928年6月4日，張作霖乘火車被日本關東軍預埋的炸藥炸成重傷（皇姑屯事件），當日送回瀋陽官邸後即逝世。

張作霖的死過於突然，他生前也沒有爲自己準備墓地。張學良爲了給父親準備一個風水寶地下葬，在葬禮舉行過之後，並沒有將張作霖下葬，而是把靈柩停放在大帥府中。

同年秋天，張作霖的墓地確定了下來，陵墓的修建也馬上開始了動工。然而，就在陵墓修建快要竣工的時候，九一八事變爆發了。

“九·一八”事變後，張學良撤到關內，日本人佔領了大帥府，便把張作霖的棺材移到珠林寺停放，這一放就是六年。

可憐生前風光無限的張作霖，死後竟孤零零地躺在荒涼的珠林寺。六年裏，張作霖的8個兒子和6個女兒，竟然沒有一個前來探望或者給老爺子下葬的。

張作霖一死，可謂樹倒猢猻散，曾經的拜把兄弟全都各奔前程了，誰還顧得上一個死人？雖然他的幾個兄弟都是俗人出身，但是他們基本上都守住了自己的民族氣節，寧死也不和日本人合作。最後，願意和日本人合作的只有一個，就是後來擔任滿洲國總理的張景惠。張景惠不忍把兄弟如此淒涼，便張羅給張作霖下葬，於是在日本人面前提了幾句。

這時候日本人也覺得把張作霖的屍體一直停放在竹林寺也不是辦法，便同意讓張景惠着手處理此事。

張景惠按照日本人的意思，給張作霖舉辦了不算隆重也不簡單的葬禮。當一切準備就緒的時候，張景惠卻找不到爲張作霖打幡的人——張作霖的兒女沒有一個在場的。能找到的，只有張作霖大姐的兒子，也就是張作霖的大外甥。

當時東北有兒子打蟠的習俗，但是張作霖八個兒子一個都不在，最後只能讓這個大外甥打蟠了，如此下葬，甚是淒涼。

1937年5月3日，死後九年的張作霖終於在張景惠的主持下，安葬在了錦州市的驛馬坊，與原配夫人合葬在了一起。