1950年5月11日，胡宗南得到一则信息：台湾当局的最高监察机关“监察院”中，有40多名监察委员联名对他提出了弹劾，称“胡宗南丧师失地，贻误军国，依法提出弹劾，以肃纪纲，而振军威”。一时间台湾岛上下都关注着“弹胡案”的进展与结果，而其关键则是蒋介石的态度。经过权衡利弊，蒋介石最后决定放胡宗南过关。6个月后，台湾“国防部军法处”就弹胡案作出判决：“弹劾胡宗南各项，均与事实相反，不能成立。”认定胡“应予不付军法会审”。
胡宗南以败军之将，终于逃过了这场政治风波，但从此再未得到蒋介石的重用。
组建“江浙反共救国军”
1951年3月，胡宗南突然接到蒋介石命令，要他去浙江省东南沿海大陈岛一带组建“江浙反共救国军”，任命他为总指挥。原来，国民党军从大陆败逃的残兵败将，打着14个纵队的番号，约2.3万多人，在那里各自占岛为王。当时朝鲜战争已经爆发，为了利用这支力量牵制中共，蒋介石便想让胡宗南前往整理指挥这些游击部队。
胡宗南欣然领命，率领部属用“国防部视察组”的名义，于9月10日到达大陈岛。胡宗南化名“秦东昌”，隐含当年兵败三秦，今日东山再起之意。在荒凉的大陈岛上，胡宗南建起了“江浙反共救国军指挥部”。他把从台湾调来4个战斗团的编余军官数千人，充实各个游击队，又从台湾运来粮食、武器。胡宗南雄心勃勃，梦想有朝一日能够打回家乡。可是好景不长，随着朝鲜战场的逐渐沉寂，中共加强了东南沿海的军事力量。几次交手，胡宗南屡战屡败，已经感到自己不是解放军的对手。
1953年6月24日，解放军在距大陈岛约14公里的积谷山岛强行登陆成功，解放大陈岛指日可待。蒋介石知道败局难挽，7月，台“国防部”正式撤消“江浙反共救国军指挥部”，派蒋经国来大陈岛接回了胡宗南。
心脏病发猝死医院
胡宗南回台湾后，仍任“总统府战略顾问委员会上将顾问”，1953年8月奉命进入台湾“国防大学”学习。这年，妻子叶霞翟为他生了一个胖女儿。
