1946年7月关麟征被调到成都任中央陆军军官学校教育长，次年蒋介石辞去各军校校长兼职后，关麟征升任中央陆军军官学校第二任校长（第一任蒋介石，黄埔生中升任该校校长的第一人），对学校进行了一系列的改革措施。1948年8月，关麟征被任命为国民党陆军副总司令，仍兼任军校校长。随后，蒋介石又要他出任陆军总司令，报纸上已登载消息，关也已拜会参谋总长顾祝同，商讨交接事宜。但国防部以“溪口电话手令遗失”为由，使此事告吹。不久，国民党政府又蕴酿他出任京沪杭警备司令，后来又以“不懂上海话”而作罢。李宗仁担任国民党政府代总统时，他被任命为陆军总司令。
1949年成都作战，国民党军虽说是由胡宗南指挥，实际发令的是蒋介石，当听到全军向大邑集中的时候，他便知道这一仗已经完全失败了。那时一连下了好多天大雨，所有的土路都不能走，除非走公路中央。川西乡间泥土松软，胡部重武器多，根本没法子展开。关麟征因此说蒋介石虽然领导过北伐和抗战，实在他不大会打仗。
这年秋，他便辞职，退出军界，并把一家老小送到香港居住。11月，关麟征偕夫人从成都乘飞机前往台湾。在香港机场小憩时，他告诉同机旅伴“去探望病中的父亲，随后来台”。但此后关未去台，而是一直居住在香港。
蒋介石兵败大陆，关麟征退居香港，深居简出。整日以临摹于右任书法和阅读《孙子兵法》为乐趣，顾孟余组织第三势力，拉拢关麟征，关不应，蒋介石多次邀请关麟征去台，关也不应。
晚年生活
关麟征在香港，深居简出，闭门谢客。他不参加任何政治性的集会和社会活动，不会见新闻记者，不在报刊上发表任何言论，过着“隐士”式的生活。他“无官一身轻”，以读书、写字为乐趣；生活有规律，洁身自好，每日早睡早起，不吸烟、不喝酒、不打牌；对我国古书熟读深研，书法造诣颇深。他的草书曾参加过香港大会堂的展出。
1972年，他在夫人、女儿的陪伴下前往美国、欧洲各地旅游，历时月余，然后返港。1975年4月，蒋介石病故台湾，关麟征束装就道，前往台湾吊唁，经过多次挽留，关终不应。晚年，关麟征妹妹当选陕西省政协委员，他在给大陆友人的信中写道“梧枝妹谬获拔擢，尚望兄多多指教，使无负于政府和人民之所托，是为至盼！”关梧枝赴港探亲。在火车站，三十多年未见面的兄妹抱头痛哭，千言万语一时竟不知如何说起。当关梧枝向他介绍大陆解放后的变化，日新月异的经济建设和文化教育情况时，他兴致勃勃，并且经常插话说：“对！就应该这样办！”关夫人对妹妹说：“几十年来，没见过你大哥这么高兴过。”关麟征对中国共产党11届3中全会后实行的政策表示赞赏。他关心在大陆的黄埔同学、军界故旧。他希望早日结束台湾同祖国大陆分离的局面，实现祖国统一大业。他曾对妹妹说：“我是炎黄子孙，我盼望祖国早日统一啊！”
1980年7月30日凌晨1点多钟，关麟征病危送香港伊利莎白医院，医生护士在抢救过程中发现他胸前伤痕累累，感到惊讶。关夫人介绍说“这些伤痕是他抗日浴血奋战所伤”。8月1日，关麟征逝世。中央人民广播电台、《人民日报》和全国各大报纸都登载了他逝世的消息和简历。徐向前元帅向他在香港的家属发去了唁电：“噩耗传来，至为悲痛，黄埔同窗，怀念不已，特此致唁，诸希节哀。”
关麟征旧宅位于英租界加的夫道，即和平区长沙路95号，由和平区房管局办公使用。关麟征旧宅曾由其家眷常住，他也住过几次。旧宅是一处砖木结构的英格兰庭院式建筑，占地面积1608平方米，建筑面积2708平方米，有主楼、配楼、后楼各一幢。主楼朝西南，三层，立面一侧为独特的半圆形。楼内房间宽敞明亮，钢窗、菲律宾木地板、实木门，室内天花板上有方形和圆形灯光灰线，装修讲究。一楼有客厅、饭厅、书房。佛堂位于一楼至二楼转角处，窗朝东北，房间稍暗，有二十多平方米。二楼、三楼主要是卧室和书房，房间较大。配楼为红砖清水墙，房间稍小，装修一般。主楼和后楼之间有平台相连接，后楼的房间进身较小。该处旧宅院落宽敞，院内有草坪、花坛和鱼池。配楼因破旧已拆除，建起新颖的办公楼。
著作有《关麟征回忆录》等。
大事记
1924年6月，考入黄埔军校第一期。
1924年11月，任黄埔军校教导1团2营5连2排排长。
1927年，任国民革命军总司令部补充7团团长。
1928年7月，任11师31旅61团团长，后与师长陈诚闹翻离职。
1930年，任张治中教导2师2旅旅长。
1933年1月1日，升任25师师长。
1935年4月13日，晋升陆军少将。
1936年10月5日，晋升陆军中将。
1937年8月，升任52军军长。
1938年6月，升任32军团军团长。
1939年1月，升任31集团军副总司令。
1939年5月，调任15集团军副总司令。
1939年10月，升任15集团军总司令。
1945年3月，任陆军第1方面军副司令官。
1945年，升任东北保安司令长官。
1945年10月，调任云南警备总司令，同年12月因昆明一二一惨案被撤职。
1946年，任中央军校教育长。
1947年10月，任黄埔军校校长，成为继蒋介石之后第二任校长，是黄埔军校在大陆期间三任校长之一，同时是第一位就任校长的黄埔生。
1948年8月，任陆军副总司令。
1949年8月25日，任陆军总司令。
1949年，离开大陆去香港，并未前往台湾；盖关麟征认为台湾乃是时任台湾省主席陈诚地盘，故不愿赴台。不过在该年关曾以军校校长的身份前往凤山视察孙立人办理的第四军官训练班。国民政府撤台后，曾多次电邀其赴台，均被谢绝。1975年蒋介石病逝台湾后，关曾赴台吊唁。
