当时，金城破羌以西，离汉廷道途遥远，又经常发生变乱，不好治理。朝廷大臣商议，要把该地区舍弃。马援持不同意见，他提出了三条理由：第一，破羌以西的城堡都还完整牢固，适于固守；第二，那地方土地肥沃，灌溉便利；第三，假如舍弃不管，任羌人占据湟中，那么，以后将有无穷的祸患。
刘秀听从了他的意见，命武威太守把从金城迁来的三千多客民全都放回原籍。马援又奏明朝廷，为他们安排官吏，修治城郭．建造工事，开导水利。鼓励人们发展农牧业生产，郡中百姓从此安居乐业。马援还派羌族豪强杨封说服塞外羌人，让他们与塞内羌族结好，共同开发边疆。另外，对武都地方背叛公孙述前来归附的氐人，马援以礼相待，奏明朝廷，恢复他们的侯王君长之位，赐给他们印缓，并撤回马成的军队。
建武十三年（37年），武都参狼羌与塞外各部联合，杀死官吏，发动叛乱。马援率四千人前去征剿，行至氐道县境时，发现羌人占据了山头。马援命令部队选择适宜地方驻扎，断绝羌人的水源，控制草地，并以逸待劳。羌人水草乏绝，陷入困境，首领们带领几十万户逃往塞外，剩下的一万多人也全部投降。从此，陇右安定。
马援在陇西太守任上六年，恩威并施，使得陇西兵戈渐稀，人们也逐渐过上了和平安定的生活。一次，在靠近县城的地方，乡民们结伙械斗仇杀。人们误认为羌人要造反，惊慌失措，争先恐后涌人城来。狄道县县长闻变，赶到马援府门，请示关闭城门，整兵戒备。马援当时正与宾客饮酒，得此消息，大笑道：“烧羌怎敢再来进犯我。晓谕狄道长回去守舍，胆小怕死的，可躲到床下去。”不久，城中安定下来，才知是虚惊一场，大家愈发佩服马援。
建武十七年（41年），马援被征入朝任虎贲中郎将。
见重汉室
马援关心国事。遇到该说的话，从不隐饰回避。他在陇西时，发现币制混乱，使用不便，就上书给朝廷，提出应该像过去一样铸造五铢钱。朝廷把他的建议提交三府审议。三府奏明刘秀，认为马援的建议不可行，这事就搁置起来了。
后来，马援回朝，马上就去找回了自己的奏章。见奏章上批有十几条非难意见，便依据情理加以驳正解释，重新写成表章上奏。刘秀见他言之有理，采纳了他的意见，天下从此得益很多。
一平岭南
同年，维汜（曾蛊惑百姓，后被杀）的弟子李广纠集徒党，攻下皖城，杀皖侯刘闵，自称“南岳大师”。朝廷派谒者张宗率兵数
千人讨伐，又被李广打败，于是派出马援。马援组织诸郡兵马一万余，击斩李广等人。
不久，交阯女子征侧、征贰举兵造反，占领交阯郡，九真、日南、合浦等地纷纷响应。征侧便在麊泠趁机自立为王，公开与东汉朝廷决裂。刘秀任命马援为伏波将军，扶乐侯刘隆为副将，率领楼船将军段志等南击交趾。部队到合浦时，段志去世，刘秀命马援兼领其军。于是，马援统军沿海开进，随山开路，长驱直入千余里。
建武十八年（42年），马援率军到达浪泊，大破反军，斩首数千级，降者万余人。马援乘胜进击，在禁溪一带数败征侧，敌众四散奔逃。
建武十九年（43年）正月，马援斩杀征侧、征贰，传首洛阳。朝廷封马援为新息侯，食邑三千户。马援犒赏三军，大发感慨，三军将士齐呼万岁。
接着，马援率大小楼船两千多艘，战士两万多人，进击征侧余党都羊等，从无功一直打到巨风，斩俘五千多人，平定了岭南。马援见西于县辖地辽阔，有三万二千多户，边远地方离治所一千多里，管理不便，就上书刘秀，请求将西于分成封溪、望海二县。马援每到一处，都组织人力，为郡县修治城郭，并开渠引水，灌溉田地，便利百姓。马援还参照汉代法律，对越律进行了整理，修正了越律与汉律相互矛盾的地方，并向当地人申明，以便约束。从此之后，当地始终遵行马援所申法律，所谓“奉行马将军故事。”
建武二十年（44年），马援率部凯旋回京。刘秀赐马援兵车，朝见时位次九卿。
北击乌桓
马援回到京城一个多月，正值匈奴、乌桓进犯扶风，马援见三辅地区受到侵掠、皇家陵园不能保全，就自愿请求率兵出征，刘秀同意了。
建武二十一年（45年），马援率领三千骑兵出高柳，先后巡行雁门、代郡、上谷等地。乌桓哨兵发现汉军到来，部众纷纷散去，马援无所得而还师。
二平岭南
马援曾经患病，而梁松前往看望，在床边向马援行礼，马援没有回礼。梁松走后，马援的儿子说：“梁松是陛下的女婿，贵重朝廷，公卿以下莫不害怕，大人为何独不答礼他？”马援说：“我是梁松父亲的朋友，就算他显贵，怎能失掉长幼的辈份呢？”梁松因此记恨马援。
建武二十四年（48年），南方武陵郡五溪蛮暴动，武威将军刘尚前去征剿，冒进深入，结果全军覆没。马援时年六十二岁，请命南征。刘秀考虑他年事已高，而出征在外，亲冒矢石，军务烦剧，实非易事，没有答应他的请求。马援当面向刘秀请战，说：“臣还能披甲上马。”刘秀让他试试，马援披甲持兵，飞身上马，手扶马鞍，四方顾盼，一时须发飘飘，神采飞扬，真可谓烈士暮年，老当益壮。刘秀见马援豪气不除，雄心未已，很受感动，笑道：“这个老头好健康啊！”于是派马援率领中郎将马武、耿舒、刘匡、孙永等人率四万人远征武陵。
出征前，亲友来给马援送行。马援对老友谒者杜愔说：“我受国家厚恩，年龄紧迫余日已经不多，时常以不能死于国事而恐惧，现在获得出征机会，死了也心甘瞑目，害怕的是一些长者家儿或在左右，或参与后事，特别难以调遣，我独为此耿耿于心啊。”
建武二十五年（49年），马援率部到达临乡，蛮兵来攻，马
援迎击，大败蛮兵，斩俘两千余人，蛮兵逃入竹林中。此前，当部队到下隽时，有两条路可走，一是经壶头山，一是经充县。经壶头山，路近，但山高水险，经充县，路远，粮运不便，但道途平坦。究竟该从哪儿进发，刘秀开始也拿不定主意。耿舒，就是马援在出发时说的那些权贵子弟中的一个，想从充县出发，而马援则认为，进军充县，耗日费粮，不如直进壶头，扼其咽喉，充县的蛮兵定会不攻自破。两个人意见不一致，便上表说明情况，请皇帝裁决，皇帝同意马援的意见。
三月，马援率军进驻壶头。蛮兵据高凭险，紧守关隘。水势湍急，汉军船只难以前进。加上天气酷热难当，好多士兵得了暑疫等传染病而死。马援也身患重病，部队陷入困境。马援命令靠河岸山边凿成窟室，以避炎热的暑气。虽困难重重，但马援意气自如，壮心不减。每当敌人登上高山、鼓噪示威，马援都拖着重病之躯出来观察瞭望敌情。手下将士深为其精神所感动，不少人热泪横流。
身死蒙冤
但耿舒却在此时写信给其兄好畤侯耿弇，告了马援一状：“前次我上书建议当先进攻充县，粮虽难运而兵马得以展开使用，军人数万争先奋进。今困在壶头不得进，大众忧郁将死，实可痛惜。前次到临乡，贼无故自己到来，当时如果乘夜攻击，就可消灭掉。伏波用兵像西域的贾胡，到一处后就止步不前，因此失利。今果然困于疾疫，都如我所预言的一样。”耿弇收到此信，当即奏知刘秀。刘秀就派虎贲中郎将梁松去责问马援，并命他代监马援的部队。梁松到时，马援已死。梁松旧恨难消，乘机诬陷马援。刘秀大怒，追收马援新息侯印绶。
梁松对马援素有怨恨，原因比较复杂。一是马援写信告诫晚辈，梁松曾受到牵累。
马援当年南征交趾，在前线听说侄儿马严、马敦到处乱发议
论，讥刺别人，而且跟一些轻狂不羁的人物结交往来，便立即写信劝诫他们。信中举杜季良之例。杜季良当时正任越骑司马，他的仇人以马援此信为据，上奏章控告他，说他：“行为轻薄，乱群惑众，伏波将军从万里外写信回来以他训诫兄子，而梁松、窦固与之交往，将煽动轻佻虚伪，败乱我中华。”刘秀览此奏章，把窦固、梁松召来严加责备，并且把奏章和马援的信给他们看。二人叩头流血，才免去罪过。结果杜季良被罢官，龙伯高则被升任零陵太守。 …
