对这位原配夫人，张灵甫是不满意的。他之所以离家外出，据说原因之一就是为了逃婚。当上军官后，他嫌邢琼英土里土气，不能像别人的太太那样打扮入时，出入社交场合。于是，张灵甫就扮演了陈世美的角色，把邢琼英撂在老家，自己在外地来了个“停妻别娶”.

　　第二任妻子名叫吴海兰，是张灵甫1934年驻防四川广元时，经人介绍认识的。吴海兰年轻漂亮，又知书达理，一见面就使张灵甫十分喜爱。两人很快坠入爱河，不久便结了婚。

　　吴海兰性情贤淑，对张灵甫温柔体贴，照顾得无微不至，还能陪他外出交际。同事们都夸他娶了一位好太太。

　　张灵甫当时在胡宗南的第一军当团长。部队“追剿”工农红军，东奔西走，漂泊不定。为了行动方便，上头规定军官家属一律安置在西安。

　　一天，一位同事兼同乡的团长从西安探亲回营，张灵甫向他打听妻子吴海兰的情况。

　　那位团长见他焦急的样子，有意跟他开个玩笑，打趣说：“啊呀，老兄啊，说出来你可不要生气呀。你的太太嘛，一次我看见她打扮得花枝招展，身边还有一个年轻人，西装革履，两个人可亲热呢！你要不放心，快去西安看看吧！”

　　张灵甫个性内向，脾气暴躁。他一听此言，不禁火冒三丈，生气得不得了，心想堂堂男子汉大丈夫，哪能戴上顶“绿帽子”,让人在背后指指戳戳。妻子不贞，如此奇耻大辱，说什么也咽不下这口气，他决定马上请假回西安找吴海兰“算账”.

　　他将吴海兰带到乡下老家，在屋后菜地里枪杀了她，并暴尸野外。

　　“团长枪毙了老婆！”这件事很快传遍了大东乡，又很快传到了仅有30里之遥的西安城。经报纸报道后，又很快传遍全国，闹得沸沸扬扬。

　　凶讯传到四川广元，吴海兰家人岂肯罢休。她哥哥不远千里赶到西安，向法院状告张灵甫，要求严惩杀妻凶手，以慰妹妹亡灵。

　　法院一看告的是一位团长，就回复说：军人犯罪，应由军事法庭审理，本院无权过问。吴海兰的家人又向社会各界呼吁，要求主持公道，给予声援。

　　当时张学良正驻守西安任西北“剿总”总司令，夫人于凤至在西安妇女协会挂了个名誉职务，有人帮助吴海兰的哥哥将状子转递到了她手中。

　　生性耿直又仗义执言的于凤至了解“团长杀妻案”的来龙去脉后，凤眉倒竖，愤怒至极，斥责张灵甫刻薄寡义，手段残忍，竟然蔑视军纪国法到如此程度，实在令人发指。她要求张学良务必对张灵甫严加惩办。

　　张学良双手一摊，苦笑着摇摇头，说：“中央军的事，我鞭长莫及啊！”

　　于凤至说：“那好，我就把信转到宋美龄那里去，请她伸张正义，维护我们妇女的合法权益。”蒋介石和张学良是结拜兄弟，于凤至和宋美龄以姊妹相称。

　　作为一个女人，宋美龄也对吴海兰的冤死表示同情，她向蒋介石禀报了此事。蒋介石一听，大为恼怒，立即下令给胡宗南，令其将张灵甫撤职查办，押来南京。

　　没有人押送，张灵甫一个人匆匆上路去南京受罚。当时没有直达火车，张灵甫风尘仆仆地辗转途经洛阳、郑州、徐州，很快把盘缠花光了。正当他愁眉苦脸时，心头突生一计，大叫一声：“天无绝人之路！”他向一家旅馆老板借了点钱，买来纸砚笔墨，赶写了十几张条幅，挂到街头叫卖。用卖字换来的钱当路费，他终于到达了南京。

　　张灵甫向蒋介石上书，要求当面说清“杀妻”缘由。

　　蒋介石心里有气，何况一个小小上校团长，哪里放在他眼里，于是下了口谕：将张灵甫关入“模范监狱”,判处10年徒刑。

　　蒋介石虽然独裁专制，但表面上也讲法制。仅凭老蒋一道口谕，不经法院判决，就要他坐牢10年，监狱也感到为难，权衡的结果是，将张灵甫不予收监，让他住进了监狱的招待所。

　　张灵甫原准备锒铛入狱，没想到会受此优待。他老老实实住了下来，从不找监狱当局的麻烦，也不惹是生非，整日里除了吃饭、睡觉，就是练字。昔日的黄埔校友在南京当官的不少，纷纷前来探望，或赠物，或赠钱，张灵甫就以书法回赠。时间长了，向他索取书法的人越来越多，润笔之资也颇为丰厚。一时间，张灵甫书写的招牌、店名在南京街头多处可见。一桩轰动古城西安的“杀妻案”,使张灵甫得以在“模范监狱”这个特殊的地方修身养性，他暴躁的脾气从此也有所收敛。