抗日战场
1937年，关麟征升任五十二军军长，辖第二师（师长郑洞国），第二十五师（师长张耀明），投入抗日战争。这年秋冬，他率部队在平汉铁路从事抗日斗争。9月，他参加了保定战役。除指挥本部两个师外，还指挥赵寿山的17师和曾万钟第三军2个师，防广兵单，被日第一军香月清司部迅速突破，这是他打的最窝心的一仗。10月，日军第十四师团及第六、十六师团各一部在冀南由肥乡、成安、临漳等县进犯漳河，他率五十二军在漳河南岸与日军土肥原贤二的十四师团进行了一场激烈的攻防战。双方发生白刃肉搏战，几次退而复进，失而复得，双方伤亡惨重。由于关军奋勇杀敌，终于使日军向漳河北岸邯郸、武安一带败退。关麟征从侦察员报告中得知日军在邯郸城外建有飞机场和汽油库，便立即从二十五师中抽调营长梁智伟，让他率一营部队夜袭机场，烧毁日本飞机10余架，缴获大批枪械弹药，受到第一战区司令长官程潜电令嘉奖。
漳河战役后的这年冬天，五十二军开赴河南漯河一带进行休整补充。在休整中。关麟征总结了自古北口抗战以来的经验教训，加强了部队的战术教育和射击训练，并且对全军将士进行了抗击日本侵略，维护中华民族独立的爱国主义教育。全军校尉也进行了指挥作战的战略战术学习。关麟征自己也利用训练闲暇和夜晚，学习陆军大学课本《战斗纲要》、《战术作业》和《孙子兵法》等。
关麟征及其五十二军参加平汉铁路战斗后又转战河南、山东。1938年春关率部参加台儿庄会战。3月24日，关麟征指挥部队向盘踞在津浦铁路台枣支线的日军第10师团濑谷旅团发起进攻。关麟征发现日军白天战斗活跃，晚上龟缩不动，就采用夜战火攻战术，命令部队昼伏夜出，消灭敌人。3月31日下午，由临沂南下的日军坂垣征四郎的第五师团沂州支队四千人，突然袭击五十二军指挥部。当时，关麟征身边只有一个警卫营的兵力约三百人。他沉着冷静，命令警卫连在离指挥部千米以外的地方展开佯攻，以迷惑敌人。及至黄昏，援军赶到，他立即指挥部队对日军突然实行反包围。敌军仓卒应战，伤亡众多，其骑兵部队全部被歼。4月初，关部加速对台儿庄日军的攻击，白天或枪炮轰击，或白刃肉搏，晚上攀屋放火，乘乱追杀，使敌人日夜不宁，从台儿庄北面完成对日军的包围。4月下旬，关部奉令开至峄县以东、邳县以北防守，将日军国崎支队包围在码头镇西的北涝沟，给敌以重创，仅日军四一、四二联队伤亡就达一千四百多人。
台儿庄大捷后，关麟征升任第32军团长。蒋介石声称：“中国军队如都象五十二军那样战斗力强，打败日本军队是不成问题的。”时人则称台儿庄战役中负责防守的孙连仲和负责攻击的关麟征为“孙钢头”和“关铁拳”。
徐州会战结束后，关麟征三十二军团经徐州以北向归德(商丘)撤退。关军行至豫皖两省交界处砀山与杨集之间，欲通过一座桥时遇到了困难。因为桥西已被日军占领，敌人用八挺重机枪封锁桥上通道。五十二军几次组织兵力冲锋都未能突破敌人封锁线。关麟征勃然大怒，遂将从蒙古定远营中得来的良马16匹集中起来，并挑选勇敢机智的士兵驾驭，他一马当先，亲自率领16战骑突然向西面桥头飞驰而去，桥头敌人的机枪尚未开火，16匹战骑已经冲到，机枪手仓皇失措，弃枪而逃，五十二军后续部队全部冲过桥去，到达归德。关麟征勇猛战斗的佳话传遍国民党军界，从此他获得了“关猛”的雅号。
1938年夏秋之交，32军团参加武汉保卫战。当时，日军冈村宁次的第十一军所属第九师团进攻赣北和鄂东南地区。8月，关麟征率部在瑞昌、阳新一带阻击日军。他命令部队依山地形势，在每个山头修筑工事，把几个山头组成一个棋盘阵地，一个山头受敌攻击，其他山头可以立即配合出击，歼灭敌人。因而日军进攻十几天，寸土未得，遗尸累累，士气低落。东京广播称：“我皇军在瑞昌跗近，遭遇最强劲之敌”。武汉撤退时，他又指挥部队殿后，广布散兵线，施行运动防御。安全掩护大部队撤出。
1939年秋，关麟征升任15集团军副总司令，代行总司令职权，指挥6个军坐镇湘北，参加第一次长沙会战，凭借伯陵防线迎击进犯湘北的日军第六师团。此役敌我伤亡惨重，关部仅连排军官就牺牲六百余人。后日军上村支队在15集团军后方营田奇袭登陆，关麟征发现日军有围歼15集团军的企图，果断命令主动后撤，退而不乱，二十万大军，军纪严明，井然有序。随军记者对关麟征组织领导军队的才能深为敬佩。10月2日，国军退至长沙外围，日军陷入湘北湖沼，已呈疲惫之势。195师长覃异之发现日军有退却迹象，迅速上报，关麟征抓住战机，果断地组织指挥部队实施反攻。由于这是开战以来第一次收复失地。关麟征升任十五集团军总司令，记功一等。关是黄埔将领中担任集团军总司令的第二人（1939年8月4日胡宗南任第三十四集团军总司令，成为黄埔系学生的第一个集团军总司令），他年方三十四岁。
他对赏罚有一个比喻说：「带兵的人有如要猴子把戏的人一样，要经常与猴子接近，使猴子了解你的心意，你也要了解猴子的性情。平时练好了，着正式登场时，一只手拿着糖菓（赏），一只手拿到鞭子（罚），对赏罚一点不偏不私，这样子猴子才会听指挥，出全力。可是，我们很多将领，尤其是职位高级的将领，平时不与官兵接近，打仗的时候，对功过是非又存偏见私心，这又怎么能够要求部下把仗打得好呢？」
1940年日军占领越南逼近桂滇，切断了中国滇越国际交通线，因何应钦向蒋介石力荐，关麟征奉命率第十五集团军由长沙进入广西边境驻防，不久又调防云南，7月部队改编为第九集团军驻防滇南国境，关麟征自此成为镇边大将直至抗战胜利。期间关麟征还兼任军委会驻滇干部训练团教育长，对驻滇军事干部进行抗日教育和军事训练。
1943年，军政部长何应钦借故将第九集团军所辖的五十四军军长黄维调职，关麟征在何的支持下，派张耀明接任该军军长。而这个军是陈诚的嫡系部队，陈的亲信、副军长傅正模便联合该军军官向上呼吁控告，致使关、陈矛盾激化。不久，陈诚由湖北飞昆明规划远征军事宜，关往见陈，提到五十四军时，两人拍桌互詈，关麟征冷言回答：“辞公钧座是即将掌握全国事的领袖人物，不应该再封闭在土木系小圈子里，一个军长的职务都不肯放手，这不是干大事业应有的心胸啊！”陈诚听后胃溃疡发作，吐血不止，此后虽经杜聿明居中调处，但关陈一直水火不容。关麟征在国民党失败之后，死活不去台湾，和陈诚有直接关系。
激流勇退
本来关麟征去云南，是负有中央渗透云南之使命的，但是关与龙云关系处的极恶，龙云下令不许中央军在昆明周围20公里内驻防。老蒋只好把关麟征打发到边境，另调回杜聿明到云南，结果龙和杜倒是打的一片火热，还允许杜在昆明城内驻兵，甚至把自己的一处公馆给杜当司令部，当然，下场就是五华山事变，蒋是不会允许龙云这样纯粹地方化的军阀继续把持一个关键的省份。而关与杜之间的地位差别，也在抗战中逐步逆转了。
1944年12月中国陆军总司令部成立，下辖四个方面军，关麟征升任第一方面军副总司令（总司令卢汉），1945年5月国民党第六次全国代表大会上关麟征当选为中央执行委员会委员。10月8日关麟征被任命为东北保安司令部司令长官，因害怕他不能搞好和苏联的关系，未上任就被改派为云南省警备司令。胡琏生前曾到香港拜访关麟征，问“如果你去东北，将采取什么做法？”关麟徵回答“我的办法很简单，第一，选一位善战的将军，任他为兵团司令，给他三个精锐的军，明确他的任务‘活捉林彪’，城有所不攻，地有所不守，以壮大自己、消灭敌人的有生力量为主眼。第二，对伪满的20万军队，我不管中央的政策如何，一律给它们以地方保安部队的番号，让其为我们所用。以东北之富饶，他们会自足自给。待打完仗以后，再作善后安排”。不过，这都是事后的话了，其实当云南警备总司令也不错，当时全国的省警备总司令就他和新疆的宋希濂两个。谁想他不能上阵杀敌，就跑去屠杀学生（一二一事件）还在记者招待会上公开叫嚣“学生有游行的自由，军人有开枪的自由”这句名言，实在不能让人不送出王八蛋的称号——人家学生没有出校，可是你关总司令的兵到学校扔手榴弹的。…
