1951年，胡琏在金门成立“福建省游击队”，后改名为“福建省反共救国军”，他任总指挥。他曾派遣小股特务潜入福建省，试图进入戴云山区进行反共游击活动。但不到一个星期，大陆军民便将这些特务一网打尽。
晚年岁月
1952年10月，胡琏加授陆军上将衔。同时，被选为中国国民党“第七届中央委员”；此后，他连任第八、九、十、十一届中央委员。
1954年6月，胡琏奉调回台北任第一野战军团司令。1957年又奉调去金门，再次出任金门防卫司令，1957年7月升任二级陆军上将。1958年8月23日，福建前线人民解放军炮轰金门，次日，胡令所部向大磴岛进行炮击。金门炮战持续了四十六天，9月任金门防卫司令部司令兼金门战地政务委员会主任。
1958年冬，金门防卫司令由刘安祺接任。胡琏擢升为陆军总司令部副总司令。1961年12月入国防研究院受训。1964年，胡琏出任“驻越南（南越）大使馆大使”，在职八年。1972年胡琏被免职回台北，任“总统府”战略顾问，并晋升为一级陆军上将。他晚年爱好文学和历史，研读典籍，喜读古书，1974年附读台湾大学历史研究所，研究宋史和现代史。著《古宁头作战经过》、《泛述古宁头之战》、《金门忆旧》和《越南见闻》等书。
1977年6月22 日，胡琏因患心脏病在台北逝世。
胡琏将军的遗体，后以海葬形式安葬在澎湖列岛海域，实现了其“魂护台澎”的遗愿。
家庭情况
胡琏早年在大陆娶一对姐妹花为妻，姐姐育有三子，分别是胡之光、胡之辉、胡之耀；妹妹育有五女，分别是胡之冰、胡之玉、胡之玲、胡之洁、胡之清。
人物评价
遍览台湾军史著述，不光竭力贬低刘伯承、陈毅、粟裕等大陆将领，而且将张灵甫、李仙洲、邱清泉、黄百韬、黄维等国民党败军之将也说得愚蠢之至如粪土一般，唯胡琏超智超勇、鹤立鸡群，乃千古难觅之良将，似乎蒋公介石如早早委此君以大任，则定能扭转乾坤、挽狂澜于既倒。
平心而论，胡琏在战场上的表现确比其同僚们略高一筹，他有张灵甫的“悍”，但无张灵甫的“骄”；其“忠”不比黄百韬少，其“谋”绝比黄百韬多。台湾史籍广泛传引所谓毛泽东给前线部队的一封亲笔函称：“十八军胡琏，狡如狐，勇如虎。宜趋避之，保存实力，待机取胜。”以说明共军对胡琏的畏惧之甚。毛泽东是否发过如此信函根本无据可查，但把胡琏喻为“虎性”与“狐性”的结合体还是恰如其分的。许多三野老人认为，胡琏的整十一师（十八军），综合战力仅略逊于整七十四师，从其几次避免了被歼的命运，而且是“五大主力”中最后一支被歼灭的王牌部队来看，说胡琏“能战”，不算是溢美之词。
胡琏不拘小节、精通嫖赌，对于“阿堵物”（钱的别称）更是情有独钟。他曾对赵秀昆说过：“我们一旦当了师长，首先搞它二百两，打个基础。”但胡琏手面很宽、出手阔绰，对于那些敢于拼死沙场、能征善战者一律不吝封赏、破格提拔，而那些临阵怯懦即便是同乡、同学也绝不留情面。李万斌与胡琏情属同乡，又是黄埔四期的同学，可李作战胆小，被胡琏最终赶出十八军了事。1947年7月，胡琏所属十八旅某工兵营长放弃了一个据点，胡琏得报立即予以枪决，决不姑息。同属土木系骨干的原整编第66师师长宋瑞珂被俘的消息传来，胡琏脱口而出：“宋瑞珂应该自杀！”
胡琏极端仇视中共，曾有“共产党如果成功，我们断无活路”的慨叹。但同时他又对中共的某些做法进行深入研究，对解放军的军事手段反复揣摩，杨伯涛回忆说胡琏曾经拿到过一本第二野战军团级指挥员的作战日记如获至宝、深加研习。对于二野的各色部队的风格胡琏均有不俗的评价，这一特色一直保持到胡琏的晚年。七十年代在台湾出版的胡琏的回忆录《出使越南记》中对于中共军事斗争模式有着老练的阐述。
历史文献
胡琏将军与日寇决战前的祭天誓词：
陆军第十一师师长胡琏谨以至诚昭告山川神灵，我今率堂堂之师保卫我祖宗艰苦经营、遗留吾人之土地，名正言顺，鬼伏神钦，决心至坚，誓
死不渝！汉贼不两立，古有明训；华夷须严辨，春秋存义。生为军人，死为军魂！后人视今，亦尤今人之视昔。吾何惴焉！今贼来犯，决予痛歼力尽，以身殉之。然吾坚信，苍苍者天，必佑忠诚。吾人于血战之际，胜利即在握，此誓！
大中华民国三十二年五月二十七日正午
此为胡涟将军在展开石牌保卫战前一日的祭天誓词，亦为遗嘱。五月二十八日日军即开始进攻石牌，此役，国军以15万人面对日军20万人的进攻，连日血战，最终击退日军，粉碎了日军占领石牌进而威胁重庆的战略企图。
1943年五月，日军溯长江西上，直取中国的抗日根据地四川。地扼三峡中游的石牌要塞首当其冲，被赋予这个以少胜多、以寡当众守卫重任的，是国军第十一师，师长胡琏，黄埔四期，时年三十六岁。
大战开始前一天，已经向全军许诺“成功虽无把握，成仁确有决心”的胡琏，连续写了五封简短的诀别信，其中给老父的一封，其忠差似诸葛亮《出师表》，其孝思堪比李密的《陈情表》：“父亲大人，儿今奉令担任石牌要塞防守，孤军奋斗，前途莫测，然成功成仁之外，当无他途。而成仁之公算较多，有子能死国，大人情亦足慰。唯儿于役国事已十几年，菽水之欢，久亏此职，今兹殊戚戚也。恳大人依时加衣强饭，即所以超拔顽儿灵魂也。敬叩金安。”成仁死国之心，是精忠；加衣强饭之请，是纯孝。
勋章失窃案
台湾“刑事局”2012年5月8日晚间证实，失窃的前金防部司令官胡琏将军获颁的青天白日勋章，已由中国大陆北京公安寻获，并妥善保管。北京公安在一列由厦门开往哈尔滨的火车上逮捕窃嫌。 “刑事局”表示，现北京公安已妥善保存证物，同时台方也会将掌握的监视影带等犯罪事证送交北京公安，并尽快取回这枚青天白日勋章 。31日，勋章交由“刑事局”带回。
