桓温返回荆州后，先后命部将剿平蛮贼文卢、妖贼李弘，将首级传送建康（今江苏南京）。但与此同时，收复的司隶、豫州、青州、兖州等地再次失陷。升平四年（360年），朝廷封桓温为南郡公，并将其原有爵位临贺郡公降为县公，封授给其次子桓济。
隆和元年（362年），前燕将领吕护进攻洛阳。河南太守戴施弃城而逃，冠军将军陈祐遣使告急。五月，桓温派竟陵太守邓遐率三千人协助守城，再次上表要求迁都洛阳，并建议将永嘉之乱后流亡江南者全部北徙，以充实河南之地，皆被朝廷驳回。后来，朝廷又以交州、广州偏远为由，免去桓温的交广二州都督，改授其为都督并司冀三州诸军事。桓温上表推辞。
兴宁元年（363年），朝廷加授桓温为侍中、大司马、都督中外诸军事、假黄钺，赐其羽葆鼓吹一部。二年（364年），桓温率水师进驻合肥，准备北伐。五月，朝廷进封桓温为扬州牧、录尚书事，遣侍中颜旄宣旨，召其入朝参政。桓温以中原尚未恢复为由推托。朝廷不许，再次征桓温入朝，但当桓温赭圻（今安徽繁昌西）时，却又尚书车灌前来制止。桓温遂驻军赭圻，上表辞去录尚书事一职，只遥领扬州牧。
兴宁三年（365年），前燕再次攻打洛阳，陈祐出逃。司马昱得知，与桓温在洌洲（在今安徽和县）会面，命他移镇姑孰（今安徽当涂），准备征讨之事，但最终因晋哀帝驾崩而作罢。 太和三年（368年），桓温获加殊礼，位在诸侯王之上。 遂驻军赭圻，上表辞去录尚书事一职，只肯遥领扬州牧。
太和四年（369年）三月，徐兖二州刺史郗愔致信桓温，表示愿意与他共同辅佐王室，请求率部出河上。当时，北府兵卒悍勇，桓温不愿让郗愔掌握京口（今江苏镇江）重镇。郗愔之子郗超为桓温参军，暗中将原信毁掉，并以父亲的名义伪造信件，自称老病，请以闲职休养。桓温便顺势改任郗愔为会稽内史，自领徐兖二州刺史，兼并了郗愔的军队。
同年四月，桓温亲率步骑五万，与江州刺史桓冲、豫州刺史袁真一同北伐前燕。他率军攻湖陆，擒获燕将慕容忠，进逼金乡。当时正逢大旱，水道不通，桓温便让人在钜野开凿水路三百里，使船只由清水进入黄河。 郗超建议桓温尽率全军直击前燕国都邺城，或者坚守河道，控制漕运，储蓄粮食，直至明年夏天再继续进攻。他认为如不速战速决，当战事拖延至秋冬后，在水量减少而北方早降温的客观条件之下，会令晋军更难维持。但桓温全都不听。
七月，燕国大将慕容垂、傅末波等人率八万大军前来抵抗晋军，两军对峙于枋头（在今河南浚县）。桓温命袁真进攻谯、梁，并打开石门水道。但袁真始终无法开通石门，最终晋军军粮耗尽。九月，桓温焚毁战船，退军而去。慕容垂率八千骑军追赶，与晋军战于襄邑（今河南睢县西）。桓温大败，死伤三万人。
晚年弄权
桓温兵败后，退至山阳（今江苏淮安），收集散卒，并将战败之罪委于袁真。他上疏朝廷，请废袁真为庶人。袁真不服，据寿春（今安徽寿县西南）叛变，并暗中勾结前秦、前燕。 朝廷不但不敢追究桓温的兵败之责，还命侍中罗含带着牛酒到山阳犒劳桓温，并任命其子桓熙为豫州刺史。后来，桓温又移镇广陵（今江苏扬州）。
太和五年（370年）二月，袁真病死，部将朱辅拥立其子袁瑾为豫州刺史。前燕、前秦都遣军援助袁瑾，桓温命部将竺瑶、矫阳之率军迎战。燕军先至，在武丘（今河南沈丘东南）与竺瑶交战，结果大败而回。同年八月，桓温率二万军队攻打寿春，并筑起长围，将城池团团围困。袁瑾只得婴城固守。
太和六年（371年），前秦将领王鉴、张蚝率军援救袁瑾，结果被桓温部将桓伊、桓石虔（桓温之侄）击败。不久，桓温攻破寿春，俘获袁瑾，将袁瑾、朱辅及其宗族数十人全部送往建康斩首。袁瑾妻女被赏赐将士，所侍养的数百乞活军则被活埋。从此，豫州彻底落入桓温之手。桓温掌握了进入建康的锁钥。
桓温自负才能过人，久怀异志，因此发动北伐希望先建立功勋，然后回朝接受九锡，从而夺取政权。但因第三次北伐失败，声望大减，图谋不成。 寿春之战后，桓温曾问郗超道：“这次胜利能雪枋头兵败之耻吗？”郗超则表示不能，并建议桓温效仿伊尹、霍光，废立皇帝，以重立威权。桓温遂决定废黜皇帝司马奕。
太和六年（371年）十一月，桓温带兵入朝，威逼褚太后废除司马奕的帝位。他诬称司马奕因阳痿不能生育，让宠臣相龙、计好、朱炅宝等人与后宫美人私通，所生三子将冒充皇子建储为王。褚太后只得集百官于朝堂，下诏废司马奕为东海王。 而后，桓温亲率百官至会稽王邸，迎司马昱入朝，拥立为帝，是为晋简文帝，改元咸安。
晋朝开国百余年，从未发生废立之事。桓温擅行废立，不仅令百官震栗，自己也紧张不已。 前秦皇帝苻坚对此不以为然，他道：“桓温此前败于灞上，而今又败于枋头，十五年内两次使国家军队遭受重大打击。不但不反思过错，向百姓谢罪，竟还废黜君主。六十岁的老叟如此举动，如何自容于天下？”
桓温废立后，对朝中的异己力量大加废徙。
武陵王司马晞好习武事，又在朝中担任太宰重职，素为桓温所忌。桓温以“聚纳轻剽，苞藏亡命”为由弹劾司马晞，免去司马晞与其子司马综、司马囗的官职，让他们返回封地。后来，桓温又逼新蔡王司马晃自首，称与司马晞、司马综、著作郎殷涓、太宰长史庾倩、散骑常侍庾柔等人谋反，将他们收付廷尉，请予诛杀。简文帝不许。最终，司马晞、司马晃被废为庶人，殷涓、庾倩、庾柔等人都被族诛。
颍川庾氏是高门望族，势力强盛，庾希、庾倩等兄弟六人皆为朝中显贵，深为桓温所忌。庾倩、庾柔被诛后，庾蕴饮鸩自尽，庾希则与弟弟庾邈、儿子庾攸之逃入海陵（今江苏泰州）陂泽。青州刺史武沈是庾希表兄，暗中为他供应粮饷。庾友因儿媳桓氏是桓温侄女，得到求情，最终得以幸免。
咸安二年（372年），桓温得知庾希兄弟的踪迹，派军队搜捕。庾希遂与武沈之子武遵在海边聚众抢夺船只，乘夜攻入京口，赶跑晋陵太守卞耽。他们打开监狱，放出数百囚徒，发放兵器，宣称奉密旨除桓温。卞耽逃往曲阿（今江苏丹阳），征发诸县乡兵两千人，与庾希对抗。庾希战败，退守城池。桓温又命东海太守周少孙征讨。周少孙攻克京口，擒获庾希等人。最终，庾希、庾邈、武遵以及子侄、部众全被斩于建康。
桓温诛除庾氏，威势极盛。侍中谢安见而遥拜，更以君臣称作二人关系。 而简文帝虽被立为皇帝，但却形同傀儡，常担心被桓温废黜，甚至向郗超询问桓温是否会再行废立。郗超以家族百口担保不会再发生政变，简文帝这才稍微安心。
简文帝继位不久，便进封桓温为丞相，留其在京师辅政。桓温辞让不受，率军返回白石（今安徽当涂西），还镇姑孰。后来，简文帝又派侍中王坦之征召桓温，请其入朝辅政，并增食邑万户。桓温再次推辞。
咸安二年（372年）七月，简文帝病重，急召桓温回朝，并在一昼夜内连发四道诏书。桓温仍推辞不肯入朝。 简文帝只得传下遗诏，让桓温摄政，效仿周公。但侍中王坦之却据理力争，将遗诏中的“摄政”改为“辅政”，依照诸葛亮、王导旧例。随即，简文帝驾崩。 桓温原以为简文帝临死会禅位给自己，或让自己摄政，而今大失所望，怨愤不已。
简文帝驾崩后，群臣惧于桓温，不敢拥立太子，都认为应请桓温决定。尚书仆射王彪之极力反对，太子司马曜方才得以继位，是为晋孝武帝。褚太后认为孝武帝年幼，且正在居丧期间，再次提议让桓温摄政，结果被王彪之阻止。 后来，孝武帝又命谢安征桓温入朝辅政，并加其前部羽葆鼓吹，赐武贲六十人。桓温仍旧辞让，既不接受，也不入朝。
病重而死
宁康元年（373年）二月，桓温带兵入朝，拜谒皇陵。当时，京中流言四起，都说他此次入京是要诛除王谢、颠覆晋朝。朝廷命谢安、王坦之率百官到新亭（今南京西）迎接，拜于道侧，朝中位望稍高者皆惊慌失措。但桓温却只以“卢悚入宫”一案，将尚书陆始收付廷尉。不久，桓温患病，返回姑孰，前后在京不过十四天。 …
