至正二十三年（1363）春，刘福通被元兵击败，拥韩林儿退至安丰。这时，张士诚接受元政府的招安，并派部将吕珍围攻安丰。三月，徐达奉命驰援，大败吕珍，救出韩林儿，并乘胜进攻庐州（今安徽合肥），元将左君弼守之，三个月没攻克，于是撤围而去。吕珍杀死刘福通后，张士诚以为有功于元政府，遂索求王爵，元政府没有答应，张士诚便自称吴王。
朱元璋攻打张士诚的军事攻势是分三步走：一是先取淮东，翦除其羽翼，攻克淮河水域的通州、兴化、盐城、泰州、高邮、淮安、宿州、安丰诸县，逼迫张士诚的势力收缩到长江以南；二是扫荡浙西，切断其肘臂，形成合围平江（今江苏苏州）的态势，攻克湖州、嘉兴、杭州等城镇；三是最后合围平江，消灭张士诚。为了迅速稳妥地解决张士诚，朱元璋把这个任务交给了他最信任的大将徐达。
至正二十四年（1364）春正月，李善长、徐达等人奉朱元璋为吴王，拜徐达为中书省左相国。七月，再次攻打庐州，左君弼败走，获其妻子儿女送到建康。八月，张士诚逼死元浙江丞相达识帖木儿，势力大张。其势力范围南至绍兴（今属浙江），北有通州（今江苏南通）、泰州（今属江苏）、高邮、淮安、徐州、宿县（今安徽宿县）、濠州、泗州（今山东省泗水县）、济宁（今山东济宁市）等州，西面在宜兴、常州、江阴一线与朱元璋相接。
元至正二十五年（1365年）十月，徐达被任命为总兵官，与常遇春一起，率兵攻取淮东。徐达挥兵北上，很快攻取泰州、高邮、淮安等地，并在徐州击退元军主力的进攻，俘斩元兵万余人。仅半年时间，淮东诸地悉被攻克，张士诚的势力已被压至江南浙两地区。朱元璋进攻张士诚的第一步基本实现。
元至正二十六年（1366），朱元璋任命徐达为大将军，常遇春为副将军，统率二十万大军攻打张士诚。张士诚以平江（今江苏苏州市）为中心，以湖州（今浙江湖州市）、杭州（今浙江杭州市）为其羽翼，抗拒徐达、常遇春的进攻。徐达认为，湖、杭两州系张士诚的左右臂，左右臂被斩断，平江唾手可得，遂向朱元璋建议先攻湖、杭。湖州守军兵分三路来拒徐达，徐达亦分兵三路战，并派骁将王国定断敌归路。敌力战不支，退入城中固守。此时，张士诚派吕珍等率兵六万来援，兵屯旧馆（今浙江吴兴东），牵制徐达。徐达认为，敌羽翼未除又生羽翼，如不除掉援兵，湖、杭二州亦难攻克。于是，决定暂停攻城，先派兵夜袭敌援兵营地，切断吕珍军粮道。旧馆援兵因粮饷不继，降者甚众。旧馆被拔除，湖、杭二州不久亦相继攻克。张士诚的左右臂被砍断，平江已成为孤城。
徐达统率大军进逼平江。他屯兵于葑门外，其余常遇春、郭兴、华云龙诸将分段屯驻，修筑长围。又架设起三层的大木塔，居高临下监视城中动静，名为“敌楼”，其上设置有弓弩火铳。又用“襄阳炮”，日夜轰击城中。
九月，平江城中粮尽，军民以枯草老鼠为食。张士诚身陷绝境但仍不投降。徐达下令全军强攻破城，城下战鼓擂动，火炮齐鸣，20万大军杀声震天，将士人人奋勇争先。徐达督军首先攻破葑门，常遇春攻破闾门水寨，直逼城下。张士诚令枢密唐杰上城督战拒敌。唐杰抵挡不住，绞械投降。参政谢节、潘元绍是在城门扎营，此时看到大势已去，也相继投降。
将及黄昏时分，张士诚军全线崩溃。徐达指挥全军从四面八方架起云梯，蚁附登城，冲入城内，与敌军展开激烈的巷战。
暮色苍茫，平江城中的喊杀声已经微弱，降将李伯升奉徐达之命，前去劝谕张士诚。他匆匆进入宫来，张士诚已悬梁自缢。李伯升让随从赶忙将其解救下来，幸亏气息未绝，许久才缓过气来，但却闭目不语。徐达闻报，命将张士诚押送应天，听候朱元璋处理。最后，张士诚还是在看守之地自缢而亡。
统兵北伐
1367年11月，朱元璋命徐达为征虏大将军，常遇春为副将军，率领25万大军进行北伐。在北伐檄文中提
出“驱逐胡虏，恢复中华，立纲陈纪，救济斯民”的口号。元顺帝此时信任喇嘛僧，沉迷于天魔舞与声色欢娱之中。
十一月初，徐达军至下邳（今江苏睢宁西北），命张兴祖率一部军先由徐州北上，攻取济宁和东平（今属山东）。这时，王宣、王信父子降而复叛，并往莒州（今山东莒县）募兵，企图阻止张兴祖北上。徐达立即进兵沂州，王宣被杀，王信逃往山西。附近峄州（今山东峄县）、曹州、海州（今江苏东海）、沭阳（今江苏沭阳）、日照（今山东日照）、赣榆（今江苏赣榆）、沂水（今山东沂水）等地元军闻风而降。徐达在沂州稍事停留，命韩政扼守黄河，自率大军进攻益都（今山东青州）。十一月底，元益都守将普颜不花力战不敌，遂克益都。徐达乘胜攻取寿光、临淄、昌乐、高苑等地。元乐安（今山东惠民）、长山（今山东淄博）、新城（今山东桓台）等地皆相继归附。
十二月初，张兴祖至东平，逼走元将冯德，追至东阿，安山（今山东东平西），迫使元将陈璧、杜天佑、蒋兴等各率所部归降，进而围攻济宁，元守将陈秉直接逃走。十二月上旬，徐达带领士兵至济南，元将多尔济投降，密州（今山东费县北）、蒲台（今山东滨州）、邹平（今山东邹平）的元将，亦先后请降。徐达决定继续向东略地，命傅友德进攻莱阳，自己带兵返回益都，东攻登（今山东牟平）、莱（今山东掖县）二州。元惠宗见山东形势危急，命中书右丞相伊苏、太尉知院托和齐、中书平章政事呼琳岱、陕西行省左丞相图噜等进军山东，然而诸将都不听从命令。
至正二十八年（1368）三月，徐达在基本上占领山东之后，从济宁进攻汴梁（今河南开封），同时派一部分军队经河南永城、归德（今河南商丘）趋许昌，并命邓愈率襄阳、安陆、江陵之兵北攻河南南阳，策应北征主力作战。三月底，徐达进抵陈桥（开封市东北），元汴梁守将李克彝夜驱军民西遁，元将左君弼率所部投降。徐达进入汴梁后，立即率步骑经中湾（今河南封丘西南）西攻洛阳。
四月上旬，徐达军自虎牢关进至洛阳塔儿湾，元将托音率5万元军在洛水以北列阵，被常遇春强行突破，退至陕州（今河南陕县）。驻守洛阳的元梁王阿哩衮见大势已去，率官民出降。徐达继续挥兵略取嵩（今河南省嵩县）、陕、陈（今河南太康）、汝（今河南临汝）诸州，并命冯国胜率所部进攻潼关。由汴梁退守潼关的元将李思齐和张思道，听说明军又逼近潼关，急忙率领部队西逃。明军向西连续攻克陇（今陕西陇县）、秦（今甘肃天水）、巩昌（今甘肃陇西）、兰州等地，进逼临洮，李思齐末路穷途，只好投降。徐达命薛显进攻西宁（今青海西宁），亲率主力进攻庆阳。
五月初，连续攻下安定（今甘肃定西）、会州（今甘肃会宁）、靖宁（今甘肃靖宁）、隆德（今甘肃隆德），经萧关前往平凉（今甘肃平凉），一方面分兵进驻战略要地延安及泾州（今甘肃泾州），另一方面派张涣率骑兵侦察庆阳的动静。张思道早在明军攻克临洮时，便留下弟弟张良臣与部将姚军守庆阳，自己则逃往宁夏，结果被库库擒获。张涣派人招降张良臣，张良臣得知其兄被库库治罪，决定降明，但迅即又叛。徐达下令四面包围庆阳城，张良臣恃险顽抗，并向塞外的库库求救。库库为救庆阳，兵分三路牵制明军，一路攻大同欲下太原，一路攻风翔，一路攻泾州。七月中旬，库库部将哈南下攻原州（今甘肃镇原），致使战局为之大变。徐达见库库兵势甚猛，暂取守势，命徐礼守驿马关（今陕西庆阳西南）、叶石真守彭原（今陕西庆阳南）、韦正守郐州（今陕西邻县）、傅友德、薛显守灵州（今宁夏灵武），控扼各处要害。不久，哈布攻下泾州，致使徐达大军腹背受敌，幸得冯国胜自驿马关引兵来救，才将哈札儿击退。八月上旬，张良臣在庆阳粮饷已尽，外援无望，其部将开城投降。数日后，库库派往大同和凤翔方面的军队，亦被明军击溃。 …
