俾斯麦辞职或曰罢官后还在柏林待了9天。他到威廉一世墓献了3朵玫瑰；拜会了腓特烈三世的遗孀；新首相卡普里维将军就职的那天，他在皇宫做了示威性的亮相。威廉二世特地封俾斯麦为劳恩堡公爵，还将他晋升为陆军元帅衔海军上将。俾斯麦讥讽地说：“奇怪得很，皇上把出类拔萃的将军任为首相，却把轻车熟路的首相捧出来当个空头元帅、将军。老皇封我侯爵即是王侯殿下，还要公爵锦上添花？外出匿名？”9天中，慰问电报、信件、名贴、鲜花铺天盖地地向相府涌来。俾斯麦自嘲说，这是一级国葬。客人们也使他应接不暇，小邦君主、政党头头、各国大使川流不息。此中也杂有不少幸灾乐祸看风险者。3月29日，俾斯麦一家在民众的欢呼簇拥下来到达勒尔特车站。仪仗队和军乐队早恭候在此。列车在《友谊地久天长》的乐曲声中启动，俾斯麦眼前晃动的礼帽、头巾、手帕、飞吻，渐渐远去，它们全都像他的政治生活一样，留在了柏林。俾斯麦下野之后，长居于汉堡附近的弗里德里希斯鲁庄园，并著有回忆录《思考与回忆》。
身后之事
1898年7月30日，铁血宰相俾斯麦悄然离世，享年83岁。身后之事，俾斯麦预先都有安排。报纸公布了1890年俾斯麦辞呈的全文。辞呈指斥威廉二世妄改外交政策破坏对俄友谊。俾斯麦去世时，威廉正泛舟夏天的大海上。得知消息他立即从挪威海滨返航基尔，并电告赫伯特移灵柏林举行国葬。8月2日，威廉抵达弗里德里希斯鲁，假模假样地向鲜花和花环丛中的俾斯麦遗体志哀。至于国葬，只好免了。老头早已选好此庄园一片针叶林中的一块空地。威廉碰了一鼻子灰返回柏林。
7月31日，《帝国新闻》报道：皇帝陛下亲临弗里德里希斯鲁，对上帝为实现德国统一和这一不朽的伟大思想而养育的义工——俾斯麦深表哀悼。对威廉二世，俾斯麦是至死不买账的，他的墓碑上刻的字是：“冯·俾斯麦侯爵威廉一世皇帝的忠实的德国仆人。”
俾斯麦离世后不久，俾斯麦的政敌便迅速清除了他在政界中的势力，改革从此终止，德国迅速走向他生前一直努力控制及防止的军国主义，最终第一次世界大战爆发。
为政举措
政治方面
在国内问题方面，首先在1871年至1877年间的“文化斗争”中，与罗马教廷互相攻击，最后以双方互相妥协结束。再在1878年随即开始“围剿左派”，制定《非常法》， 以打压社会民主党。但同时间，他亦制定了很多保障工人的措施，来进行拢络，虽然很多只属表面性质，但仍使德国成为世界上第一个拥有劳工立法的国家。
军事方面
战争对俾斯麦来说只是一种达到目的的工具，因而他的“自制”意
识还表现在对待武力的态度上。他是强权政治的信徒，然而，俾斯麦首先不是一个军事狂人；而是一个政治家，是一个让手段完全服从于目标的政治家。普奥战争结束后，在德国涌现了希望通过暴力完成统一的要求，俾斯麦却高度保持理智：“我也认为，仅通过暴力事件来推进德国的统一是可能的。但是，一个完全不同的问题是造成一场暴力灾难的使命，和选择时机的责任。任意地、仅仅按照主观的理由而决定干预历史的发展，结果总是只能打落不成熟的果实。至于说，德国的统一在目前不是个成熟的果实，在我看来是十分清楚的。 ”武力的使用一定要慎重，必须服务于现实政治目的。在强调国家利益至上的国际无政府状态中，国家目标的实现必须建立在强大的国家实力基础之上；同时，国家实力的使用要慎重，应当把国家拥有的强大实力与灵活的均势政策结合起来，以更好地实现国家目标和利益。
为了德意志统一，俾斯麦发动了三次王朝战争。普丹战争发生于1864年，1864年2月开战，丹麦很快战败。根据当年10月签定的维也纳和约，普鲁士占有石勒苏益格，奥地利帝国则得到了荷尔斯泰因。
对丹麦的战争结束后，他便积极筹划对奥战争，1866年6月17日普鲁士出兵荷尔斯泰因，发动对奥战争。7月3日，双方主力在萨多瓦村（捷克境内）展开决战，普军大胜。8月23日，双方在布拉格缔约，奥地利退出德意志联邦。
普奥战争结束后，成立了以普鲁士为首的“北德意志联邦”。德国统一已经走了一大半路程，剩下的还有莱茵河以南、邻接法国的4个小邦国（巴伐利亚、巴登、符腾堡和黑森—达姆斯塔得）。而法国担心德国因统一而变得强大，所以竭力阻扰普鲁士统一的步伐。1870年7月19日，法国向普宣战。战争爆发后，普军优势明显，并迅速攻入法国境内，9月1日，双方在色当展开决战。普军的数百门大炮轮番轰炸，几小时内法军伤亡达2.5万名。下午3点，法军升起白旗投降，拿破仑三世当了俘虏。普法战争后，巴伐利亚等4邦国加入德意志联邦，德国统一全部完成。
外交方面
国家利益至上，一切从国家利益出发。俾斯麦认为共同的国家利益是国家之间联合在一起的有力纽带。在涉足外交事务之前，俾斯麦就坚信，“一个大国唯一健全的基础，这一点正是它大大地有别于小国的，就是国家利己主义，而不是浪漫主义。为一个不符合自己利益的事业去打仗，对一个大国来说是不相称的。” 他认为在国际关系中，国家总是以本国利益至上，以国家利益为依据来决定其对外行为的，不会为了其他国家而出卖自己的国家利益。在克里米亚战争后，俾斯麦更是宣布现实政治时代的到来。“以感情为依据的政策是没有交互性的，这种政策只是普鲁士的特点；任何别国政府都把自身的利益当作它们行为的准则，不管它们是如何用合乎法律的或充满感情的推论来竭力掩饰。”因此，俾斯麦“认为对外政策中的理想就是没有偏见，决定问题不要受对于外国及其当政者的反感或好感的影响。 俾斯麦的国家利益至上思想使他在因一直胜利进军而兴奋不己的统治集团内部保持了清醒的头脑，做出更富远见的决定，为后来统一战争的顺利进行做好了铺垫。
俾斯麦把错综复杂的局面简约化，在德丹、普奥和普法战争中，首先通过外交以利益交换拉拢大多数强国，孤立敌人，然后每次都设定与实力匹配的有限军事目标，一击而中，见好就收。在统一德国之后，俾斯麦继续拉拢英、俄和奥地利，集中力量排挤和限制强邻法兰西，并鼓励法国在海外殖民地扩张，转移它在欧陆的注意力，从而最大限度地维护了德国利益。
在国外问题方面，自德国统一后，俾斯麦便不希望再有对外战争，以便让德国可以休养生息，培养国力。因此他并不像其它欧洲国家一般，大量掠夺殖民地。但他又担心
法国报复，因此他采取结盟政策，孤立法国。首先在1873年，他与奥匈帝国，俄罗斯缔结“三帝同盟”。而在1877年，俄土战争爆发，俄国大败土耳其，并签订了《圣斯蒂法诺和约》。 但这损害了英、法列强的利益，因此列强便请没有置身其中的俾斯麦作出调停。在1878年，召开了柏林会议。在会议中，他偏袒奥国，但在表面上仍表现中立。这使俄国成了大输家。结果，德、俄关系恶化，再加上俄国与奥匈帝国在巴尔干半岛有利益冲突，俄国退出了三国同盟。就这样，1878年以后三皇同盟不再继续。这些问题在俾斯麦执政晚期一直困扰着他，甚至使他感到坐立不安。
1879年，俾斯麦与奥国重订盟约，称为“德奥同盟”。然而俾斯麦担心俄国会转投法国，因此于1887年与俄签订“再保险条约”。在1882年，他又与意大利，奥匈帝国签订“三国同盟”。1883年，罗马尼亚也加入了三国同盟。三国同盟的建立标志着以德国为盟主的一个帝国主义军事集团最终形成了。
在俾斯麦的领导下羽翼渐渐丰满的德国，迫不及待的加入了殖民扩张的队伍。1884年，德国夺取了西南非洲（今纳米比亚）和非洲东部的多哥、喀麦隆。1885年，又占领了坦噶尼喀（德属东非）。不久，又相继占领了卢旺达、布隆迪。德国企图沿赤道占领东西非洲，这样一来，就与英国的计划（2C计划）发生了冲突。1890年，也就是俾斯麦卸任宰相的那一年，德英签订条约，双方划分了在东南非的势力范围，德国取得坦噶尼喀，英国获得肯尼亚和乌干达。但条约并未最终制止两国的矛盾。 随着俾斯麦的离职，英德矛盾愈演愈烈，成为“一战”爆发的重要原因。…
