1926年3月，段祺瑞改命马君武为教育总长。马君武不仅没有就职，而且辞去北京工业大学校长职务，南下回沪，再任上海大夏大学校长，脱离了民国政坛。由于其反对国民党改组，反对“联俄、联共、扶助农工”三大政策，被国民党开除党籍。后来，国民党广西党部欲为其恢复党籍，就让他填个表。表上有“何时入党”一栏，马君武却填上“同盟会章程是我起草的”，党部的官员们哭笑不得，只得作罢。
马君武一度任广西省长，但多次与桂系军阀交恶，其座船被军阀袭击，连随侍身边的妻子都中弹殒命。死里逃生的马君武向老友陆费逵痛陈道：“政治生活，真是我所不能过的……可惜数千册心爱的书籍和许多未刊行的诗文译稿，完全丢了，实在令我心痛。”
陆费逵答曰：“你是文学家、工业家、教育家。我国应该做的事多得很，你的脾气，不宜搞政治，何不去做本行的事业呢？”
1927年初，马君武应广西省政府主席黄绍兹之邀，在梧州创办广西大学 。1929年，粤桂军阀混战，学校经费困难，校务停顿，马君武不得不离桂赴沪，回上海大夏大学任教。1930年1月，上海中国公学校长胡适辞职，马君武被该校董事会推举任校长，并主讲文化发展史。1 931年初，马君武愤而回桂，5月复任广西大学校长。1932年，又任西南政务委员会常务委员，广西省政府委员兼广西修志局总纂。
马君武在任广西大学校长期间，聘请国内一些著名教授来校讲课，添置图书仪器，不惜重金购置大量先进仪器，“惟北平的清华大学可比拟”。设置贫苦学生基金会，出资选送有培养前途的助教出国留学深造。1936年，广西当局改组西大，规定校长由省政府主席兼任。马君武请求担任理工学院院长，遭拒，只得离开他一手创建的西大。离别前，他意味深长地对学生说，我一生做的许多工作，都是别人求我，只有办西大，是我求别人。但他似
乎从未后悔。1939年，59岁的马君武再度出山，重任国立广西大学校长。他的居所位于校区内杉湖旁，门前是他亲撰的一副对联：“种树如培佳弟子，卜居恰对好湖山。”有后人评说，这副对
联，“早洗净先前勇武之气，显得温情脉脉这般”。
马君武一向坚决主张抗击日本的侵略。九一八事变后，他反对蒋介石的不抵抗政策。1937年抗战开始，马君武被任为最高国防会议参议、广西省政府高等顾问。1938年，他和地质学家李四光在桂林开办科学试验馆，任常务委员，并与欧阳予倩成立“广西戏剧改进会”，从事桂剧改革工作。同年7月，马君武任国民参政会第一届参政员。1 939年，国民政府改广西大学为国立，任命马君武为校长。
抗战时期，广西大学所在的桂林成为大后方，众多人才聚集，马君武利用自己的人脉，延揽了等一大批著名教授到校任教，学术氛围浓厚，国立广西大学成为著名学府，盛极一时。
为了让学生适应战斗生活，马君武还大力提倡军训。西大学生过着军事化的生活
，戴军帽、扎皮带、裹绑腿，每日三餐，号兵吹号，学生列队进入食堂，有时候还要搞夜间演习。在用人方面，马君武不拘一格。按照当时国内惯例，大学毕业生必须担任一定年限的助教，才能晋升为讲师。马君武却从中学教师暑期讲习班中选拔人才，来广西大学担任助教。反之，对不安心本职工作、学生不满意的教师，则不管资历、学识如何，一旦聘期已满，立即予以解聘。
但这个一度“恃才傲物”的马校长，却多次因学校的工作低下“勇武”的头颅。他曾求张学良为其捐助一笔办学款，张学良拒见，他便在张的公寓门房外呆了一夜，张学良只好接见。康有为去世后，他的家人将其藏书出售，马君武得知这一消息，立即派人前往，苦苦哀求，才得以花费巨资，将康的藏书收于校图书馆。
马君武以其改造中国的封建教育体制、力推现代高等教育的理念奠定了他在中国近代教育史
上的地位，与主张“思想自由，兼容并包”理念的北京大学校长蔡元培一起被时人誉为“北蔡南马”。
1940年8月1日，在桂林病逝。国民党中央决议由国民政府明令褒扬，特派代表致祭，为其举行隆重的悼念仪式。蒋介石致唁电。中国共产党领导人周恩来送的挽词是“一代宗师”，朱德、彭德怀的挽词是“教泽在人”。
代表诗作
【京华早春】
山深三月犹微雪，林密长宵觉峭寒。
图籍纵横忽有得，神思起伏渺无端。
百年以后谁雄长，万事当前只乐观。
欲以一身撼天下，须于平地起波澜。
争议之作
马君武先生于1931年11月20日发表于上海《时事新报》上的题为《哀沈阳》的两首“感时近作”，诗曰：
赵四风流朱五狂，翩翩胡蝶最当行。
温柔乡是英雄冢，哪管东师入沈阳。
告急军书夜半来，开场弦管又相催。
沈阳已陷休回顾，更抱阿娇舞几回。
马先生是我国历史上难得的一位通才，这首诗主要讽刺张学良的不抵抗行为，对于东北三省的沦陷和日本帝国主义任意胡为无动于衷，同时又讥讽张学良与赵四（赵一荻）、朱五（朱湄筠）、胡蝶等人的暧昧关系。但这首诗写得未免有失公允，对张学良将军的评价极不客观。
马君武墓
马君武墓是广西壮族自治区重点文物保护单位。在桂林市雁山区雁山镇桂林理工大学雁山校区大门右侧100米处。墓园250平方米，墓坐西朝东，灰黑色，前为方形塔状墓碑，后为圆柱形墓冢，前侧立居正撰写的墓志铭
个人影响
马君武反对拟古，强调独创。 《寄南社同人》
诗说："唐宋元明都不管，自成模范铸诗才。须从旧锦翻新样，勿以今魂托古胎。"他的诗多描写国外风光，又好以西方故实、科学知识和资产阶级哲理入诗，代表了黄遵宪以来作家们吸收新诗料、开拓新诗境的努力。
留学日本期间，马君武曾编印 《新文学》 一册，译载歌德、胡德、拜伦诗若干首。柳亚子曾誉之为： "抗手无时辈，椎轮异昔贤。欧花兼米锦，哀怨杂鲜妍。"（《寄君武柏林，时读其所著〈新文学〉》）著有 《马君武诗稿》 。 “种树如培佳弟子，卜居恰对好湖山。”这是广西大学首任校长马君武先生在广西大学任内撰写的一幅对联。正是怀着这种为壮乡培育佳弟子、为八桂输送栋梁才的雄心壮志，马君武先生与他的一批同道者于1928年10月创办了广西大学。从此，广西这片古代的蛮荒之地终于点燃了现代文明的火种。
人物书法
除了是革命家、学者、诗人，马君武还是一位书法家。同大多数南社书家一样，马君武服膺康有为尊碑抑帖
的理论，成了收藏名碑的大家。其书法主要源于北碑，但并不斤斤于点画笔墨，而是在经意与不经意间任意挥洒，笔力雄健，纵横开阖，朴拙的面孔之下，蕴藏着奇宕之气，依稀可见《石门铭》及《龙门二十品》北魏碑铭的影子。
马君武的对联“讲道论德师儒为表，出经入史制作之家”，撰写于1924年任上海大夏大学校长任上，受赠者是吴江籍学生王孟嘉。上联的含义是，学高为师，身正为表，讲究道德，努力做到身为表率;下联从字面看，是鼓励孟嘉成为撰文高手，但对联文的理解又可以突破“写作”这个狭小范畴，理解为“改造社会、移风易俗”这一深刻内容。
