失律贬官
雍熙三年（986年），诏令曹彬率领幽州行营前军马步水陆军队，与潘美等人北伐，分路进讨。三月，在固安打败辽军，攻克涿州，戎人来增援，宋军在城南大败援兵。四月，又与米信一起在新城打败辽军，杀敌二百人。五月，在歧沟关作战，诸军被打败，退守易州，面对易水扎营。宋太宗听说，急忙派人分兵屯守边城，追令诸将回朝。
在此之前，贺令图等人对宋太宗说：“辽国皇帝年少，母后专政，宠幸大臣们用事，请趁其灾祸，攻取幽蓟。”于是派遣曹彬与崔彦进、米信从雄州（今河北雄县），田重进赴飞狐，潘美从雁门出发，约期一齐举事。将出发时，宋太宗对曹彬说：“潘美的军队先奔赴云、应二州，你们以十万
人声言攻取幽州（今北京），但持重慢行，不得贪求功利。敌人听说大军到了，一定出动全部军队救范阳，无暇救山后。”不久，潘美的部队先攻下寰、朔、云、应等州，田重进又攻取飞狐、灵丘、蔚州，得到很多山后要害之地，曹彬也连连攻下州县，声势大振。每次奏本到来，宋太宗已经很惊讶曹彬进军太快。曹彬驻扎涿州时，十天食尽，于是退到雄州补充粮草。宋太宗听说后说：“哪有敌人在前，反退兵补充粮草之理，真是太失策了。”急忙派遣使者阻止曹彬前进，急忙引军沿着白沟河与米信会师，按兵不动，蓄精养锐，声张西边部队的军势；等潘美等人全部攻占山后之地后，与田重进会师向东，合势攻取幽州。当时曹彬的部下将领，听说潘美和田重进屡建军功，而自己手握重兵不能有所攻取，谋议蜂起，曹彬不得已，于是又带着粮草再去进攻涿州。契丹大军当前，当时正炎热天气，军士困乏，粮草将尽，曹彬退兵，军队不再有阵势，于是被敌人追击战败。
曹彬等人回朝后，诏令由尚书省审讯，命令翰林学士贾黄中等人惩治他们，曹彬等人供认违令失律之罪。曹彬被贬任右骁卫上将军，王彦进被贬任右武卫上将军，米信被贬任右屯卫上将军，其余诸将依次贬降。雍熙四年（987年），复起曹彬为侍中、武宁军节度使。淳化五年（994年），迁任平卢军节度。至道三年（997年），宋真宗赵恒即位，恢复他的检校太师、同平章事之职。几个月后，召回朝廷授任枢密使。
因病去世
咸平二年（999年），曹彬生病。宋真宗亲自看望，亲手替他和药，又赐他白金万两。问他后事，他回答说：“我没有事可说。我的两个儿子才能可用，我如果内举，都堪任为将。”宋真宗问他们谁优谁劣，他回答说：“曹璨不如曹玮。”同年六月去世，终年六十九岁。宋真宗亲自痛哭致祭，对大臣们说到曹彬时，必定流涕哭泣。追赠中书令，追封济阳郡王，赠谥号为武惠；并且赠其妻高氏为韩国夫人；任命他的亲族、门客、亲校十多人为官。八月，诏令曹彬与赵普配享太祖庙庭。
人物评价
总评
曹彬为人仁敬和厚，在朝廷从未违旨，也从未谈别人的过失。讨伐后蜀、南唐，丝毫无所取。位兼将相，不以等第威势自异于人。在路上遇到士大夫，一定引车回避，不称呼手下官吏的名字，每次手下官吏谈政事，一定先整冠才接见。做官，俸禄分给宗族，没有余积。平定后蜀回朝后，宋太祖从容问及官吏的善恶，他回答说：“军政之外，不是我应该闻见的。”再三问他，只推荐随军转运使沈伦廉洁端谨可用。任节度使知徐州时，有个属吏犯罪，已经结案，一年以后才杖打他，人们不知道为什么。曹彬道：“我听说这个人刚娶媳妇，如果杖打他，他的父母必定认为是媳妇克夫，而朝夕鞭打辱骂她，使她不能活下去。所以我迟缓处罚，然而也没有枉法。”北征失律后，赵昌言上表请求对他执行军法。到赵昌言从延安回来时，被弹劾，不能入宫见宋太宗。曹彬在宰府，替他向宋太宗请求，方允许赵昌言朝见。
史书评价
《宋史》：“曹彬以器识受知太祖，遂膺柄用。平居，于百虫之蛰犹不忍伤，出使吴越，籍上私馈，悉用施予，而不留一钱；则其总戎专征，而秋毫无犯，不妄戮一人者，益可信矣。潘美素厚太祖，信任于得位之初，遂受征讨之托。刘鋹遣使乞降，观美所喻，辞义严正，得奉辞伐罪之体；则其威名之重，岂待平岭表、定江南、征太原、镇北门而后见哉？二人皆谥武惠，皆与配飨，两家子孙，皆能树立，享富贵。而光献、章怀皆称贤后，非偶然也。君子谓仁恕清慎，能保功名，守法度，唯彬为宋良将第一，岂无意哉？若李浚者，亦以材干自结主知，遂历清显。谓为阴德所致，理或然也。”
历代评价
赵匡胤：“不欺其主者，独曹彬耳。” “吾任得其人矣。”
赵恒：“国朝将相家能以声名自立，不坠门阀，唯昉与曹彬家尔。”
王仁赡：“清谦畏谨，不负陛下任使者，惟曹彬一人耳。”
王陶：“曹彬、潘美统王师平江南。二将皆知兵善战，曹之识虑尤远，潘所不迨。”
刘清之：“曹彬在朝忠厚宽和，足师表一世。”
田况：“曹冀王彬遭会兴运，勋效寖着。诸将平蜀，竞掠财货，彬独不犯厘忽，由是太祖益知之。性兢畏不伐，破伪唐回入都城，令监门者但报自江南勾当公事回。及勋望曰隆，名宠亦峻，愈谦下诫惧，以保禄位。每出镇藩阃，卑躬待士。遇计台巡视封部，虽朝籍、省部位至下者，亦屏远从者，端笏迓于路左。使者见之，无不愧恐。”
陶弼：“蒐兵四解降王缚，教子三登上将坛。”
欧阳修：“曹武惠王，国朝名将，勋业之盛，无与为比。”
司马光：“曹侍中彬为人仁爱多恕，平数国，未尝妄斩人。”
王辟之：“曹冀王彬，前后帅师征讨诸国，凡降四国主：江南、西川、广南、湖南也，未尝杀一无辜，功名显著，为诸将之首。”
罗大经：“汉惟一赵充国，唐惟一王忠嗣，本朝惟一曹彬，有三代将帅气象。” “至于曹彬之平江南，功亦不细矣，然使相之除，终至吝惜，止于赐钱百万而已。夫太祖岂食言之君，而曹彬亦岂饱则扬去之人哉！英君谊辟远虑微权，众人固不识也。”
楼钥：“艺祖之造邦，武惠之元勋，不容赞叹。……人徒以为武惠为熊罴之士，不知其用兵行师，不妄杀一人，所谓不二心之臣。”
忽必烈：“古之善取江南者，唯曹彬一人。”
李冶：“彬伐江南，未尝妄杀一人，拟之方叔、召虎可也。汉之韩、彭、卫、霍，在所不论。”
胡助：“飞龙见知，不欺其主。位高志下，宠厚忧巨。平吴降蜀，勋业最隆。出将入相，善始令终。”
李廷机：“曹彬总兵权，士卒无伤损。 ”
归有光：“宋太祖受周之禅，去五代战争之患，致天下于太平，则有赵普、潘美、曹彬之辈殚其谋。”
黄道周：“曹彬为将，与众不同。仁以戢下，廉以治躬。奉诏伐蜀，图书自封。毫不矜伐，上贺其功。江南之伐，命之总戎。城危将下，忽作病容。誓不妄杀，方起而攻。李煜伏罪，宾待甚恭。尽贺使相，彬曰无庸。但多得钱，何必位崇。既而待异，北伐食穷。历念前绩，禄位善终。”
昭梿：“宋人伐辽之役，人皆怪曹、潘二公，当时宿将，何以偾军至此，不知二人固有所避忌也。太宗性猜忌，高梁之役，自有弃军之耻，曹、潘咸太祖时旧臣，若使进克幽州，必招太宗之忌，鸟尽弓藏之感，良有以也。二将颇识其意，故济阳之师已至涿鹿，乃反退雄州就食，虽粗知兵者所不肯为。而彬顾不知耶，适为偾军之计耳。潘美亦然。”
朱文翰：“彬实披坚执锐，冒死攻城，渡不测之江，系降王之颈，功冠诸将。”
郑观应：“古之所谓将才者，曰儒将、曰大将、曰才将、曰战将。韩信、冯异、王猛、贺若弼、李靖、郭子仪、曹彬、徐达筹，大将也。”
黄彭年：“持己欲静，待士欲宽，临事欲谨，治军欲节，贫毋盗，富毋溢，毋侵有司、毋虐百姓，静也，曹彬近之。”
蔡东藩：“宋初健将，首为曹彬，其次莫如潘美，然彬谦仁有余，智勇不足，岐沟之败，误在不智，又误在不勇。勇者非浪战之谓也，遇事有断，是谓之勇。” …
