1924年10月21日，徐树铮获释后就乘英国船出国游历，逗留香港时听说政局发生剧变，冯玉祥在第二次直奉战争如火如荼之际发动北京政变，软禁大总统曹锟，段祺瑞重新出山，被奉为执政。徐树铮反对段祺瑞当执政，强调这只是一个傀儡地位，但段祺瑞还是在1924年11月24日出任中华民国临时执政，徐树铮便决定将外游计划由长期改为短期。1925年1月4日，段祺瑞任命在巴黎的徐树铮为考察欧美日本各国政治专使，组成一个15人的考察团，考
察团先后访问了法国、英国、瑞士、意大利、德国、苏联、波兰、捷克、比利时、荷兰、美国、日本共12个国家，徐树铮会见了这些国家的元首，包括墨索里尼、斯大林、裕仁天皇等，并与法国交涉金佛郎案，为此案的解决起到重要作用。1925年12月10日，徐树铮率考察团回到上海。
徐树铮回国时，国内处于极度混乱的状态。冯玉祥的国民军与张作霖的奉军互抢地盘，浙江的孙传芳崛起，对抗奉军南下。曾经不可一世的段祺瑞在复出后沦为冯玉祥的傀儡，由“段厉公”变成“段哀公”。徐树铮一心想将段祺瑞推上总统宝座，重掌大权，打算劝说张、孙两家息兵，共同对付有“赤化”之嫌的冯玉祥。冯玉祥得到这些情报，自然感到芒刺在背，再加上七年前徐树铮杀死他舅父陆建章的仇恨，遂对徐树铮萌生了杀心。
遇刺身亡
1925年12月19日，徐树铮自上海乘轮船进京，12月23日在天津上岸，当天乘汽车抵达北京，12月27日身着挂满勋章的大礼服觐见段祺瑞，表示使命完成。此时北京局势日益险恶，冯玉祥打败了奉系李景林，张作霖处死了叛将郭松龄，冯、张双方势必有一场恶斗，因此段祺瑞劝徐树铮早早离京。等到徐树铮启程时，有人在段祺瑞办公桌上放了纸条，上面写道：“又铮万不可南去，去必死”十个字，段祺瑞又连忙派人将纸条递给徐树铮，徐树铮看了后却毫不介意，笑道：“何人阻我，我岂信此谰言？”
1925年12月29日下午，徐树铮在众人送别下乘火车离京赴津。冯玉祥的心腹——京畿警备司令鹿钟麟将这一情况通报在张家口的冯玉祥，并请示该如何处置。冯玉祥对徐树铮的新仇旧恨一时涌上心头，指示鹿钟麟将徐树铮逮捕枪毙。鹿钟麟转达冯玉祥国民军第五师师长张之江执行，于12月30日凌晨2时在廊坊截住徐树铮所乘列车，穿着睡衣的徐树铮被“请”出列车并挟入张营，随即遭枪杀。与此同时，
冯玉祥将陆建章之子陆承武接到廊坊，让他出现在徐树铮的随从面前，声言该事件是他为父报仇所为，但事后的各大报纸都披露了冯玉祥杀死徐树铮的真相。而段祺瑞虽然对徐树铮的被害感到痛不欲生，惊呼：“断我股肱！断我股肱！”却因处于冯玉祥的控制而无能为力，徐树铮之死也就没人追究了。次年4月，段祺瑞因三一八惨案而辞职，隐居天津，皖系军阀彻底退出历史舞台。
徐树铮死后，遗体被他的学生段大洪找到，然后由徐树铮的卫士张振声用骡车运到北京，段祺瑞提供棺材，并亲自撰写神道碑，安葬徐树铮于萧县凤家山之原。1945年，徐树铮之子徐道邻以杀人罪起诉冯玉祥和张之江，但有关部门以逾期为由拒绝受理。
主要成就
经营外蒙古
徐树铮于1919年6月13日被任命为西北筹边使，1920年7月4日免职，期间三次赴外蒙，第一次是1919年10月23日至1919年11月24日，其中在库伦逗留22天，主要解决撤治问题，全盘推翻了库伦办事大员陈毅的《外蒙善后条例》63条，将有条件撤治变为无条件撤治，以雷厉风行的手段迫使外蒙僧俗统治集团向大总统徐世昌递交请求撤治的呈文；第二次是1919年12月27日至1920年1月24日，主要办理撤治诸项事宜，册封哲布尊丹巴及女佛，并巡视外蒙边务；第三次是从1920年5月10日离京，到6月15日被段祺瑞从库伦召回，这次是真正着手经营外蒙。每次往返，都是在张家口更换汽车与火车，在外蒙古的时间一共还不到3个月。
外蒙古在清朝时对中央的向心力就不如内蒙古，经过“独立”以后更加疏远中国，所以徐树铮认为治蒙的当务之急是加强外蒙古官民对中国的向心力。他说：“空言统摄，难期久远，一切要政，不及时措施，终恐此地非我所有，有之亦不如其无。”1920年5月，他拟具了《治蒙要略》，向国务会议做了详细汇报，并呈大总统徐世昌、边防督办段祺瑞审阅。徐树铮的《治蒙要略》分为庶政、官制、军事三个部分。庶政方面，他主张大养军马，加强中华文化教育，优待俄民尤其是布里亚特人，厉行电报收费，重征烟酒等奢侈品的捐税，参照清律和民国法律，制定专门适用于蒙古地区的刑律，发展垦牧事业，兴办工商盐务林矿等各项实业，鼓励蒙古族牧民走向定居生活。官制方面，他建议外蒙全境设一总制，坐镇要区，统辖军民政商一切事宜；喀尔喀四盟及科布多、唐努乌梁海等六个地区各设都管一员管理政商屯垦各事 。军事方面，他提议在外蒙的几个战略要地驻军七旅，各旅必须增加骑兵，减少步兵。兵士除战备训练外，还可于宜垦地区实行屯田。
徐树铮所付诸实行的措施，主要是创设边业银行、注销外蒙官府欠中央政府的旧债、派出部分兵力加强恰克图的边防。徐树铮还命令驻蒙士兵引种天津大白菜，结果十分成功，后来大白菜就成了当地的大众菜。他还调查矿产、筹备铁路，修建医院，使外蒙古的现代化事业有序开展。徐树铮治蒙，尤重教化，他认为“有清以来，蒙部内属，迄今约三百年，率以愚蒙为策，实大背人情天理之正。此后欲蒙边日见亲洽，即非力整教化，劝谕兴学，不易为功。” 他创立“政教联欢社”，试图笼络外蒙王公喇嘛的感情，又创立《朔方日报》、多次举办戏曲演出、与外蒙民众联欢，寓教化于娱乐之中。
然而，徐树铮身在漠北，心在北京，随着局势的变化，他于1920年6月匆匆结束对外蒙的短暂经营，投入到对直系的斗争中。徐树铮被免职后，外蒙商民忧心忡忡，恰克图商会于1920年7月8日致电大总统、总理、各部总长、参众两院，恳求收回徐树铮免职之成命，电文中说： “国家设官，布政在民，进退之间，惟民是赖。中央更动徐筹边使，民等逖听之余，惊愕罔措，直若大难将临，曷胜切肤之痛！……徐使一人之进退，关系于蒙疆之得失，及万民之生死……徐使更动，在外蒙则若中流之失柱石……弃徐使，无异弃外蒙……弃再造之版图，恐非国家之福也！” 但不满皖系的大总统徐世昌对此置若罔闻。徐树铮走后，陈毅取而代之，这位文官没能守护好外蒙，很快外蒙就先后被白俄军官恩琴及苏俄扶植的蒙古人民党夺走了。
对于徐树铮治蒙的功过，历来褒贬不一，徐树铮在完成撤治后专门致电在上海的孙中山，孙中山回电祝贺，将他与汉代的陈汤、班超、傅介子相提并论。 与徐树铮在政治上对立的交通系要人梁士诒也致函称赞徐树铮“冒雪北征，保国安边，苦心远识，令人倾倒。” 但也有人指责徐树铮逼迫外蒙取消自治是“失信”、“误国”，如国民党内部的凌钺等人就称徐树铮“犯卖国大罪”，指责孙中山对其称赞“失当”。 曾任外蒙古乌里雅苏台佐理专员秘书长的孟榘回忆说：“外蒙二次独立，实因徐以兵力压迫之所致，武人跋扈，不达蒙情，可胜叹哉！” 美国的蒙古学家拉铁摩尔曾用汉语对唐德刚表示外蒙之失“错在小徐！错在小徐！” 台湾著名蒙古史专家李毓澍则评论说：“徐树铮的介入，显然欲攘撤治以为己功，为重振皖系声名之计。当其抵库伊始，尚欲另订简括条件，重开谈判，继以磋商条件，仍不免旷日废时，北京各部院核议之条例行将到库，乃出其武人跋扈之作风，径以兵力胁迫，自愿撤治突变为强迫撤治，不仅摧残蒙人向华之心，使外蒙撤治的意义亦全然消失。”“徐氏祸蒙误国，实难辞其咎！” 也有学者对此作出肯定评价，指出徐树铮果断撤治，粉碎了外蒙当局的分裂阴谋，“外蒙古回归，有效地维护和实现了国家领土、主权的完整与统一，具有重大的政治意义”，同时徐树铮经营外蒙的举措“适应了外蒙古社会发展的客观需要，有利于外蒙古的政治稳定与经济文化的发展”，因此这是“徐树铮乃至北洋政府的政治活动中少有的亮点之一”。 …
