1928年6月4日，奉系首领、安国军大元帅的专列在皇姑屯附近遇炸，张作霖伤重而死。

    张作霖在山东战场上失势，日本政府认为他在中原已难有作为，于是多次逼迫张退关外。同时，由于张作霖在满蒙和东北铁路修筑问题上，对日本采取不合作态度，令部分军国主义分子不满，认为张已不是“满蒙积极政策”的好伙伴了，因此要除掉他。

    6月，张作霖在日本的逼迫和张学良、杨宇霆等人的苦劝下，决定退兵关外。行前，日本驻华公使芳泽仍一再相缠，迫他履行“日张密约”.2月，芳泽又去中南海求见张作霖，张拒不接见，表示：“我不能出卖东北，以免后代骂我张作霖是卖国贼。我什么都不怕，我这个臭皮囊早就不打算要了。”芳泽闻言，悻悻离去。3日清晨，张作霖一行登上返回奉天的专列。

    在张作霖决定撤兵的同时，军国主义分子、关东军高级参谋河本大作大佐已作出谋杀张作霖的决定，他的计划得到关东军总司令村冈长太郎及日本参谋部某些决策人物的默许和支持。河本大作派人打听张作霖离京的准确时间，随即派人在皇姑屯附近满铁、京奉铁路交叉处的南满铁路桥上安置了250磅烈性炸药，委派奉天守备队中队长东宫铁男在距炸车地点500米处的观察台上负责按起爆按钮。

    6月4日，张作霖的专列抵达南满铁路桥时被炸。张作霖的包车只剩下车轮和钢梁底盘。前来迎接张作霖的黑龙江督军吴俊升当场毙命。张作霖被抬回大元帅府，几小时后死去。

    为免东北局势动荡，大元帅府没有公布张作霖的死讯。21日，张学良接任奉天督办后，张作霖的死讯才公开。