1856 年11 月的总统选举中，他曾投票选举民主党总统候选人詹姆斯·布坎南。他在自传中说：“我很清楚，如果一位共和党人在1856 年的大选中当选为总统，那就意味着南方蓄奴州将脱离联邦，并进行叛乱活动。”
但在南北战争爆发后，希望丈夫成名的朱莉娅感觉到，格兰特并不适合经商和做生意，还是应该让他回到曾经为他带来光荣的军队中去。于是，她不厌其烦地劝说格兰特再次从军。最后，格兰特同意了。1861 年4 月，格兰特自愿帮助州政府做征集志愿兵的工作。当时有人推举他担任志愿兵连的连长，他婉言谢绝了。因为他这次从军，胸怀大志，不甘小就。后来，州长见他在征集工作中很有组织能力，便让他到一个不很好管理的营去当营长。他终于接受了。到任后，他立即采取措施加强纪律性，很快把这个营整治得有条不紊。6 月，格兰特被叶特州长任命为伊利诺斯州志愿军第21 团的上校指挥官，不久又把这个团整治一新，奉命开赴了前线。1861 年9 月，格兰特被破格提升为志愿军陆军准将，司令部设在伊利诺斯州的开罗
次年1 月27 日林肯总统发布向南军发起总攻的命令，格兰特率领17000 大军在炮舰配合下，沿着田纳西河挺进。2 月6 日攻下田纳西河上的亨利要塞，几天后又包围了孔伯兰河上的唐纳尔逊要塞。当时该要塞内的守军兵力雄厚，因此，作战极其艰难。格兰特率领其部下冒着敌人的炮火连续不停地发起猛攻，南军招架不住，要求停火，派出代表来谈判投降。格兰特断然要求立刻无条件投降。2 月16 日，敌人被迫接受，14000 多名南军当了战俘。唐纳尔逊战役是联邦军队在内战中的第一次大捷，格兰特从此获得了“要敌人无条件投降的将军”的称号。
此时的北军在东部战场的情况却很不乐观，在李对抗下，北军陷入了苦战。所以当林肯听到这个消息后，很兴奋当即提拔格兰特为少将。
格兰特被任命开始组建田纳西方面军，同时结识了他的老乡--威廉·特库赛·谢尔曼，谢尔曼此时成为了他手下的师长。 到了四月，格兰特迎来了西部战场上最血腥的战斗。田纳西方面军在夏伊洛（Shiloh）迎来了他们的头一次战役。战役第一天，北军显然无法适应南军的迅猛打击，匆促迎战结果自然是大败而归。而日后，谢尔曼的部队赶到了战场。谢尔曼当南军迅速向先前溃退的北军追击的时候，出其不意地从斜里杀出猛击了对方的侧翼。南军遭到了这一出其不意的打击，顿时乱作一团，败退中的格兰特又趁势大杀回马枪，反败为胜将南军彻底击溃。这和东部战场的困境同样形成了鲜明的对比。
之后格兰特的主要任务是负责对维克斯堡的围攻作
战，这和葛底斯堡战役一并成为了这场战争中最重要的战役，也是他一生最为重要的一次战斗。 围攻部署七月，格兰特首先任命谢尔曼为菲斯军官区总司令，负责对南军的坚强据点威克斯堡发动进攻。但是由于兵力严重不足，谢尔曼的攻击并不成功，战局陷入僵持。维克斯堡小城位于密西西比河中游，大河在此处变得很狭窄，所以地理很重要。控制了维克斯堡就等于控制了整条密西西比的交通控制权，在战前这里就是整条河上的交通运输的总转站和中心，其战略价值极大。 维克斯堡繁忙的码头到了1863年年初，格兰特亲自率领部队开始对维克斯堡展开了围攻作战。他首先将打算援救维克斯堡的南军蒋斯顿的部队挡在了维克斯堡站区之外，集中力量将其打退。之后，再调回头开始展开围攻。他在维克斯堡外挖了两条围攻线：内对垒线和外对垒线。把维克斯堡围了一个滴水不漏，大摆铁桶阵。到了1863年5月，格兰特的部队人数上升到了7万2千人，火炮248门；此时维克斯堡内南军仅为4万5千人。同时在密西西比河上，在格兰特的要求下，海军的大批铁甲舰也保卫断绝了维克斯堡的水上联系。就这样，格兰特把维克斯堡彻底地包围了，之后就实施粮食的禁运，力图困死守军，当然城中的市民也遭到了同样的命运。而面对南军司令彭贝尔顿让市民离开的维克斯堡的要求，同样遭到格兰特的一口拒绝，坚持南军必须无条件投降。北军的炮兵每天不分白天黑夜日日连续对维克斯堡进行无间断炮击，每天只因为炮兵吃饭和补给的要求停止炮击三小时，其余的二十一小时都是无休无止的猛烈炮击。就这样到了1863年7月4日也就是美国独立日，同样也是东部盖蒂斯堡战役的后一天，南军在坚守了7个月，弹尽粮绝后终于向格兰特“无条件投降”。 在维克斯堡战役中，和他的伟大胜利相比，格兰特的损失却并不显得很重大，他一共损失了9千人左右。而南军伤亡了1万2千人，另有3万5千人投降被俘，而城中至少3至4千名市民由于围困造成的饥饿和炮击而死亡。格兰特还是于1863年7月攻下了这个战略位置极为关键的城市。至此，北军彻底控制了密西西比河流域，进而开始威胁南方的后方地区。
之后格兰特毫不松懈继续推进，在查努罗加突破了南军的防线，进抵了乔治亚州的边境，查塔努加在田纳西州境内，是重要的铁路枢纽和战略中心。联邦军队在市内被南军层层包围，不得脱身。1863 年11 月，格兰特率大军击溃了围攻的敌军，为翌年夏季联邦军队肃清东南残敌打下了基础。然而在格兰特刚刚取得了这一身胜利后，之后詹姆斯·朗斯特带着他的田纳西方面军从北面长途近100英里突然对格兰特的获胜之师发动了奇袭，虽然只有2两万但是却让北军遭到了失败。这也成了格兰特在西部战场上唯一的一次失败。但是之后，格兰特还是依靠自己的兵力优势维持住了战线，稳定了战局。
这时格兰特扬威全国。林肯总统代表全国人民向他致谢，国会授予他金质勋章。 1864 年3 月，林肯改组联邦军队指挥机构，任命格兰特为联邦军队总司令，并提升他为陆军中将。当时美国军队中尚无上将军衔，中将为最高级军官。林肯大力提拔格兰特，是因为他认为格兰特比其他将领更具备指挥全军的才干、胆略和气魄。格兰特是联邦军队中认识到解放奴隶和武装黑人重要性的少数将领之一。他在1863 年8 月就向政府表示：“我由衷地支持武装黑人的工作。这个工作和解放黑人一样，是对于‘南部同盟’的最沉重的打击。”同时，他还比其他将领更深刻地认识到：北方最有利的条件是在人力物力上拥有巨大的优势和潜力，而南方最有利的条件是在内线作战。
格兰特就任联邦军队总司令后，对南军采取了“分而歼之”的战略原则，即： （1）切断南军的交通线，使之不能互相联系；（2）摧毁敌方的一切资源，使敌人后勤供应困难；（3）以优势兵力迅速打击敌人，使其无喘息和改编部队的时机； （4）在战斗中不断消耗敌人的有生力量，使其兵力越来越少。此外，他还调整了作战部队的指挥系统，撤掉一些颟顸无能的人，重用一些智勇双全的将领，如谢尔曼、哈勒克等等。
他自己开始率领12万大军在东部开始和由李将军率领的北弗杰尼亚军团作战，他目标就是占领“叛军”的首都里士满。此时，格兰特更是放言，他要抽打罗伯特·李，打破李这个“南方的神话”。此时李的军团只剩下了6万人，但是他却是格兰特前所没有遇到过的对手。在1864 年夏季的科尔德港战役中，南军利用内线防御的有利条件，曾重创格兰特的部队。但格兰特并不气馁，他说：“我……主张在这条战线上一直打到底，即使打上一个夏天也在所不惜。”格兰特非常清楚，即使是这样消耗下去，李也是万万不能和他玩下去的。当时北方政府中有些妒忌格兰特的人对他进行中伤，说他不爱惜士兵的生命，一味蛮干，并给他取了一个绰号叫“屠夫格兰特”。有人甚至还在林肯面前说他嗜酒贻误军机。为此，林肯曾开玩笑地问格兰特喝的是什么酒，并要他把酒让其他将领也尝一尝。林肯对这员大将相当了解，坚信他能取胜，放手让他指挥作战。 …
