1941年12月8日，日本袭击珍珠港（参见珍珠港战役），太平洋战争爆发，美国终于卷入战争。珍珠港事件使许多军队领导人受到处分，但对马歇尔的职位未造成影响。他受到质询和责难，但没人想到要撤换他，也不再有人对他就美国参战的主导设想表示异议。为了适应战争，马歇尔上任不久便着手对军队进行了整顿。他提出一长串应当退役的军官的名单。这些军官并非无能，而是因为年事已高，思想大多囿于第一次世界大战的经验，甚至有人还用美西战争时期的方式思考问题。马歇尔认为应该是吐故纳新的时候了。他自己也提出要辞去职务，因为他与被自己开革的大多数军官是同代人。他向总统明确表示，自己这个61岁的老人理应让位给后来人，他们能更好地应付美国面临的挑战。总统批准了马歇尔所列的退伍军官的名单，但坚决留住了马歇尔。
马歇尔需要精力充沛、年富力强的军官填补空缺，但遍数全国各个驻地，这样的军官并不很多。这时马歇尔的那个档案发挥了作用。档案里又添了一些新名字。其中有年轻的上校艾森豪威尔。他在路易斯安那州的模拟战中是第3军参谋长，曾展现出卓越的策划才能，大挫对手的锐气。第3军军长克鲁格将军称他“目光远大，不拘陈规，对于军一级指挥问题的重要性具有深刻了解，积极主动，足智多谋”。由于艾森豪威尔表现出色，克鲁格建议给他晋级。马歇尔观看了路易斯安那州的演习，对艾森豪威尔印象至深。回华盛顿后，他立即保荐艾森豪威尔升任准将，并将他调到自己的作战处任副处长。
巴顿在马歇尔的档案上也榜上有名。马歇尔对他的评语是：“乔治带兵所向无敌，无往不胜。但要紧紧勒住他的笼头。”1941年马歇尔让他指挥了一个装甲军团。后来巴顿带兵打仗，屡立战功。
1942年初，美英两国商定在北非登陆，打击德军。马歇尔为这次代号“火炬”。的战役进行了积极准备。他指派艾森豪威尔将军出任盟国北非远征军总司令，全权指挥这次战役。他与艾森豪威尔商量，选中乔治·巴顿指挥美军特遣队在卡萨布兰卡附近登陆。同时，他还把奥马尔·布莱德雷推荐给艾森豪威尔。布莱德雷很快便证明他是美军有史以来最富才干的将领之一。他曾是艾森豪威尔的同班同学，在本宁堡当过马歇尔的下属。马歇尔极其赞赏布莱德雷的指挥才能，曾打定主意，一旦美军发动大规模战役，即委以重任。后来艾森豪威尔很快就将第2军交给了布莱德雷。再以后布莱德雷指挥了越来越多的军队，为打败法西斯德国立下赫赫战功。
1942年7月下旬，美英两国联合参谋长委员会开始在伦敦拟定“火炬”作战的具体方案。经过长时间的争论，并在罗斯福和邱吉尔的干预下，于9月20日达成一项折衷方案，确定在摩洛哥的卡萨布兰卡和阿尔及利亚的奥兰、阿尔及尔3处同时登陆。登陆日期最后定于11月8日。
英美盟军按期于11月8日天始实施“火炬”登陆作战计划（参见北非登陆战役）登陆成功。经5个月的激战，盟军于1943年4月9日集中优势兵力发起总攻。
英军第8集团军自南向北进行突击，美英联军自西向东发动进攻，经过18天的战斗，分别攻占了突尼斯城和比塞大港。被挤压在这一地域的25万德意军队走投无路，只有投降（参见突尼斯战役）。至此，德意在北非的部队全部被肃清，非洲战场的战事以美英的最后胜利而结束。
美英盟军在北非登陆之后，美英两国便开始考虑下一个主要战略行动方向了。1943年1月14日至24日，罗斯福与丘吉尔率两国军事首脑在卡萨布兰卡举行会议，商讨军事战略问题。马歇尔将军极力主张横渡英吉利海峡，从法国北部攻入欧洲大陆。丘吉尔不同意。会议未能就此作出决定，实际是将进攻西欧的计划推迟实施。会议最后决定以在西西里登陆为作战目标。
1943年7月10日，盟军在西西里登陆（参见西西里战役），8月中旬占领全岛。随即向意大利本土进军，很快进逼罗马，在纳粹控制的欧洲取得立足点。但是盟国决策者和一般公众在想到光复欧洲时，并不是把目光放在地中海地区，而是着眼于法国、荷兰、比利时等国，以及德国本身。大家都知道，只有英美联军横渡英吉利海峡，在法国登陆后，导向最后胜利的大反攻才算真正开始。也正是基于这一简单而正确的认识，马歇尔将军一直主张排除对其他因素的考虑，尽可能早地渡海登陆西欧作战，全力消灭德军。
1943年12月，罗斯福、丘吉尔和斯大林在德黑兰会议上最终商定，于1944年5月由美英军队在法国北部诺曼底地区登陆。这次登陆战役的代号定为“霸王”。人们普遍认为，指挥“霸王”战役的盟军最高司令一职非马歇尔将军莫属。马歇尔将军已是众望所归的人。此际，美国陆军的步兵和航空队同时活跃在世界的六大战场，战线极长，但是由于马歇尔在华盛顿指挥得力，对各路人马的状况、需求、配备和军务缓急了如指掌，应付自如，协调有致，为美军的不断胜利创造了良好条件。
为表彰马歇尔的功绩，美国众议院和罗斯福总统曾打算特设陆军元帅一衔授予他。但是马歇尔拒绝了。他努力实干，不务虚名，此举博得许多人喝彩。美国著名作家塞瓦赖德在一次著名的广播讲话中说：“这支捍卫自由的伟大军队是世界上体魄最强壮，穿着最漂亮，伙食最好，待遇最高的军队。它之所以具备今天的组织、训练、装备水准，绝非出于偶然。它是一座丰碑，展示着乔治·马歇尔的天赋和无穷的精力，几近超凡的远见卓识及领导才能。这样一位军人是不需要元帅杖的。”
马歇尔本人也想指挥欧洲战役。1943年秋，同盟国首脑在魁北克会议上一致同意他担任这一职务，这使他非常高兴。但罗斯福回华盛顿后，却无限地延长了马歇尔的陆军参谋长的任期。
罗斯福让马歇尔指挥欧洲战役的决心本是十分坚定的。他在给潘兴将军的一封信中说：“我们准备让他指挥的是这次战争中最大的作战行动。我认为他将担负的乃是欧洲战场的全部指挥任务，而不仅仅关系到某一地区。此外，英国三军参谋部将同他就一切事宜进行磋商。再者，我认为如果不给乔治一个亲临前线统兵作战的机会就太不公平了……我所能做出的最好的解释是，我想让乔治成为第二次世界大战的潘兴……”
然而，罗斯福总统无疑最后还是同意了潘兴将军的看法。这位身卧病榻的老将军在给总统的信中说：“……我们在打着一场全球性战争，离结束之日尚远，因此要由最成熟的军官担任参谋长一职，以便明智地把握战略方向。明达的军界人士一致认为，马歇尔将军正是这样一位军官。假若把他调往某个地区作战，则无论这个战场看上去如何重要，都将使我们因为失去这样一位深谙战略、任何其他人担任参谋长都无法同他相比……”
马歇尔可以极其出色地指挥欧洲战役，但是无人能顶替马歇尔充任美国全球军事行动的指挥者而且指挥得如此出色。罗斯福最终还是把马歇尔留在了陆军参谋长的位置上。最后，经总统批准，马歇尔委任了艾森豪威尔将军任盟军最高司令，指挥“霸王”战役。
1944年1月3日，美国《时代》周刊的封面上赫然登载出马歇尔将军的照片。周刊选他为“本年新闻人物”，称他为“祖国的托管者”，“不可或缺的人”。周刊写道：“作为一位文明的美国人，他赢得了全世界的尊敬。乔治·卡特利特·马歇尔将军有资格代表死难将士接受本国人民的感激之情。”，只要去五角大楼走一遭，就很容易理解为什么总统认定必须把马歇尔将军留在华盛顿，别人很难胜任此刻压在参谋长身上的繁重工作。自马歇尔于1939年接任参谋长以来，这项职务的责任范围之广，都大大超过往日。如今，300名官兵直接在参谋长手下工作，他必须每时每刻都能了解战局情况，盟国的想法，敌方的计划，总统的打算，国会的意图。
马歇尔在权力下放方面做得非常彻底。他的原则是：委派最合适的人选负责某项工作，然后就放手任他去干。如果干的出色，他会咕哝两声表示赞许，如果不称职，他就请他走人。他了解下属的全部活动。他要求自己每天掌握手下工作人员掌握的所有情况，因此他规定，任何部下都可以直接向他报合任何事情。…
