洪武元年七月二十七日（1368），徐达攻克通州。八月二日，包围大都，然而大都无人守卫。元朝亡。
征讨北元
元朝灭亡后，蒙古残军仍然在不断进攻，而元大将王保保拥兵十万，
坐守山西太原，是明朝的最大劲敌。徐达率军进入山西，很快先取了泽州、潞州，先行站稳脚跟。王保保却急于与除达一决雌雄。由太原北去，向大都的方向，欲与徐达决战。
徐达接报，依刘伯温定的计谋，并不回师救大都，反而决定径取太原。王保保听说太原告急，慌忙回师救援，率数万骑兵驰回，在太原城下扎营，邀徐达决战。
徐达按兵不动，先消磨元兵锐气，在晚上突出奇兵，夜袭王保保军营。徐达身先士卒，骑着降服的乌骓马，黑夜中犹如天降神兵，所向披糜，王保保未及披甲出战，便被败兵护著逃跑了。 ·
王保保逃到大同，由大同移军定西，在明太祖洪武二年冬，率军围攻明军于兰州。徐达率主力赶到，在定西以北对垒。这次徐达决定与王保保决战，双方交锋之下，徐达全歼王保保军八万多人，王保保仅带了妻儿亲兵数人，逃去元人的发源地上都，保元顺帝的太子去了。
洪武二年（1369年）二月，徐达挥师西渡黄河。大军进抵鹿台，元将张思道闻风而逃。徐达连克奉元、秦州、伏羌、宁远、巩昌，派大将冯胜进逼临洮，元将李思齐不战而降。又分兵攻克兰州、平凉，张思道逃奔宁夏。不久，庆阳断粮，张良臣的部将打开城迎降，徐达率车冲入城中，擒斩张良臣父子。庆阳之战，标志着徐达彻底平定陕西。
洪武三年（1370）正月，徐达受命为征虏大将军，兵分两路。李文忠率东路军出居庸关，北追元惠宗；徐达与冯国胜、邓愈、汤和率西路军出潼关，往安定西击库库。在出征前，朱元璋又命华云龙、金朝兴、汪兴祖等先期进攻云州，以吸引敌人注意力，并策应徐达、李文忠作战。二月，华云龙攻破云州，金朝兴攻克东胜州（今内蒙古托克托），汪兴祖攻克武州、朔州。
徐达率西路军出征。四月，进抵安定。元将库库正围攻兰州，知道徐达军队已至，遂撤围转赴安定迎战，库库屯军于安定以北的车道砚，徐达命冯国胜率军趋沈儿峪（车道砚南）列阵，双方激战一日，未分胜负。库库于是派千余人由间道潜劫明军大营，使明军陷于混乱。徐达亲自迎战，将来敌击溃。次日，徐达整军出战，大败元军，库库仅率数名随从北奔和林（今蒙古人民共和国库伦市）。库库兵败后，徐达命汤和进军宁夏，邓愈西攻河州（今甘肃临夏），自己则向南攻取沔州（今陕西勉县）、兴元（今陕西南郑）等地。
李文忠的东路军于二月出居庸关后，经野狐岭至兴和（今河北张北），迫降当地元军守将，继而经骆驼山（今河北沽源境内），进攻察罕诺尔（多伦附近），擒获元将珠孟和沙达哈等。五月，元惠宗死，李文忠兼程赶到应昌（今内蒙古阿巴哈那尔旗），擒获元惠宗嫡子买的里八剌及诸王将相数百人。元惠宗的另一个儿子爱猷识礼达腊，率数十骑逃走。李文忠在回师途中，又攻破兴州（即大兴，今河北滦平），擒获元将江文青，俘降元军37000人。大军奏凯而还，朱元璋亲迎于龙江，犒赏三军，并下诏大封功臣，授徐达开国辅运推诚宣力武臣特进光禄大夫、右柱国、太傅、中书右丞相、参军国事、改封魏国公、岁禄五千石、赐世袭文券。
洪武四年（1371）正月，爱猷识礼达腊与库库聚集在和林，借塞外地域辽阔之势，休养生息，准备卷土重来。鉴于此，徐达受命赴北平训练士卒，修缮城池，又迁沙漠遗民32000户屯田北平，以加强防御。七月，徐达奉命转赴山西练兵。此时，元丞相伊苏，元将高家奴、哈剌章、纳哈出等分别占据辽东之开元（今辽宁开原）、辽阳、沈阳、金山（今辽宁康平）等地，伺机南下。
洪武五年（1372）重新发兵征扩廓。徐达作为征虏大将军进取中路，左副将军李文忠从东路进攻，征西将军冯胜从西路进攻，各率领五万骑奇兵出塞。徐达中路轻敌冒进，初战不利，伤亡数万人。朱元璋因为徐达功劳大，并不过问。文忠军亦不利，不久撤军。只有冯胜统军获全胜。洪武六年（1373），徐达又率领诸将远征边疆，胜利后还军北平，戍守边防，过了三年才回到京城。
洪武十四年（1381年）正月，元将朵儿不花等犯永平。徐达奉命与汤和、傅友德率军讨之。四月，徐达夜袭灰山（今内蒙古自治区宁城县东南），兵临黄河，朵儿不花逃遁。之后，徐达回到北平。太祖以其功大，特赐以旧邸，即朱元璋为吴王时，所居宫室，又命有司于旧邸前治甲第，赐其坊日“大功坊”。
重病逝世
洪武十七年（1384），徐达在北平留守时得了背疽，不久稍微好些。然而次年二月（1385），病情加重，随后去世。
徐达死后，朱元璋亲至葬礼以示悲疡，把他列为开国第一功臣，追封他为中山王，谥号武宁，赠三世皆王爵。赐葬钟山之阴，御制神道碑文。 朱元璋曾经称赞他说：“令行禁止。不居功自傲，不贪图女色财宝，处理问题不偏不倚，没有过失。当世有此美德者只一徐达。”
军事成就
至正二十八年（1368），朱元璋即皇帝位，改元为洪武，以徐达为中书右丞相。一切准备就绪，朱元璋下达了进攻的命令。
徐达挥师由山东向河南进军，攻占汴梁。4月，自虎牢关（河南荥阳西北）西进，在塔儿湾（河南偃帅县境）一举击溃托音特穆尔所率元军5万，迫使元梁土阿鲁温于洛阳投降。随后，徐达、常遇春分兵攻占嵩（河南嵩县）、许（河南许昌）、陈（河南淮阳）、汝（河南临汝）诸州。亡潼关（陕西潼关东北）守将李思齐、张思道闻风齐关四逃。徐达等派兵进驻潼关，并西进占领华州（陕西华县）。
5月，朱元璋抵汴梁督战，与渚将商讨下一步作战计划。徐达根据元廷外援已绝的军事形势，建议乘势直取元都，朱元璋表示同意。7月，徐达率军自中滦（河南封丘西南）渡黄河，攻占卫辉（河南汲县）、彰德（河南安阳）、磁州（河北磁县），转向临清，会合山东各路明军，沿运河继续北进，在河西务（天津武清）、通州（北京通县）击败元军万余人，进逼大都。
元顺帝听到消息，率领老婆、儿子、孙子与妃子、太监、宫女，在至正二十八年二十七日的夜里，偷偷地开了大都的建德门，向着居庸关的方向逃去，逃往“上都”。8月2日，明军占领大都，元统治被推翻。统治中国98年的元王朝至此灭亡。
人物评价
总评
徐达一生骁勇有谋，战功及筑边皆功劳显赫，被朱元璋誉为“万里长城”。他话语较少而思虑精深，在军中，军令一旦发出便不改变。各位将领遵奉其令都凛然畏惧，而在太祖面前则恭敬谨慎像不敢讲话一样。善于安抚将士，与下级同甘共苦，将士无不感激他的恩德愿意报效尽力，因此，兵锋所向无不克敌制胜。更能严格约束部队，所攻克大都会二处，省会三处，府城县城一百余处，市井安然，百姓不受战乱之苦。
史书评价
《明史》：明太祖奋自滁阳，戡定四方，虽曰天授，盖二王之力多焉。中山持重有谋，功高不伐，自古名世之佐无以过之。开平摧锋陷阵，所向必克，智勇不在中山下；而公忠谦逊，善持其功名，允为元勋之冠。身依日月，剖符锡土，若二王者，可谓极盛矣。顾中山赏延后裔，世叨荣宠；而开平天不假年，子孙亦复衰替。贵匹勋齐，而食报或爽，其故何也？太祖尝语诸将曰：“为将不妄杀人，岂惟国家之利，尔子孙实受其福。”信哉，可为为将帅者鉴矣。
历代评价
朱元璋：①将军谋勇绝伦，故能遏乱略，削群雄。②受命而出，成功而旋，不矜不伐，妇女无所爱，财宝无所取，中正无疵，昭明乎日月，大将军一人而已。③虏平蛮，功贯古今人第一；出将入相，才兼文武世无双。
王世贞：高帝之取天下，计初下建康，再为陈友谅用在行。而其他皆大将军力也。
谷应泰：至若徐中山之忠志无疵，李岐阳之好学饬行，汤信公之听命唯谨，沐西平之居贵不骄，并皆攀龙鳞而有功，履虎尾而不咥。呜呼！与毕、散之徒争烈矣。 …
