1925年，马君武应北京工业大学师生的五次请求，出任该校校长。他多方设法聘请专家学者担任教授，还积极筹集资金，充实机械、电机、纺织和化工四个系的实验室和实验工厂，使理论学习和科学实验能比较紧密地结合起来。 台湾的邓静华教授在《怀念马校长君武先生》一文中写道：“马公到校后，久不冒烟之实习工厂，亦浓烟冉冉升空：严冬冷寂之教室与图书馆，亦得有煤生炉取暖，因是全校员生振奋不已。”
1927年春，李宗仁统一广西后，决定在广西办一所大学。 马君武受邀返回创办省立广西大学。 广西大学校址选定在梧州桂江对岸的蝴蝶山。当年的蝴蝶山，虽荒山野岭，到处布满壕沟，但地理位置绝佳，“取其交通便利，本省学生皆可顺流而下，外籍的教授亦可溯江而直达”。
1928年初，广西大学开始基建施工，历时半年。首期工程先建农、工、矿、文理等学院，还有图书馆、管理厅、礼堂、学生宿舍等楼房10座。 同年9月，校舍大半落成，当地政府举行了盛大的开学典礼，马君武被聘为第一任校长。上任伊始，他就给广西大学提出了“复兴中华，发达广西”的立校宗旨。 当时的广西高中毕业生很少，所以广西大学首届招收的均为预科生。虽是预科，马君武却从上海等地聘请了13名教授来校任教。
1929年6月，粤桂战争爆发，梧州被粤军占领。广西大学停办，马君武应蔡元培之邀，出任上海中国公学校长一职。马君武主政中国公学后，向上海聚兴诚银行贷款6万元进行学校建设，使学生猛增到1000多人，逐步使中国公学进人全盛时期。由于马君武重视培养人才和科学研究，而对国民党党义及纪念周等不予重视，所以引起国民党当局的不满。
1931年5月，粤军退出梧州，广西省政府电传马君武、盘珠祁(副校长)回桂。马君武第二次任广西大学校长后，设立了理学院并。童年开始招收招收首届本科生。马君武主张“学校要养成科学的智识，工作的技能和战斗的本领。读死书的时代已经过去，今后的我们要能工作，为生活而工作，用新的方法改良我们的生产”。
马君武向广西大学全校师生指出：广西大学教育的目标不但是知识的传授、技术的学习，还应与国运的隆盛、民族的复兴、社会的发展密切联系。为此，马君武辛劳规划操持广西大学，创校过程中“一木一石，一瓦一椽，一几一席，悉心擘画，手胼足胝，虽在疾中，未尝少息”。
马君武在期间，辛勤规划操持，聘请有才识之土和进步学者任教，提倡科学研究，聘请国内一些著名教授来校讲课，添置图书仪器，充实教学设备，开办化学、机械等教学工场，使学生获得实践知识，并成立科学研究机构，出资选送有培养前途的助教出国留学深造。他还亲赴德国采购大批科学仪器，其中光是高倍显微镜即达50多台，居全国各大学之冠。，“惟北平的清华大学可比拟”。他还强调学生要注重协作精神。马君武提倡西方科学教育，为了弥补国内科学技术缺陷，广西大学开办了许多国内稀缺专业，机械系、电机系、土木、农学等师资教学力量雄厚。”广西大学机械系设有机械厂，包括木模、翻砂、车工、铣工、锻工等多个部门，是机械系学生实习的良好场所。马君武还经常组织学生到工厂实习，不仅学习工艺操作，还学习车间管理、工厂技术管理和企业管理。
马君武又奉行“锄头主义”。他要求学生拿起锄头参加建校劳动，既培养学生吃苦耐劳，又使家境贫寒的学生通过劳动得到一点报酬，以补贴生活费用的不足。
1935年，广西大学成立植物研究所。为了聘请时任国际植物学会副主席的中山大学著名教授陈焕镛任所长，马君武曾“五顾茅庐”，还特地为他建了一所别墅。除陈焕镛外，竺可桢、陈望道、千里驹、李四光、费孝通、薛暮桥、王力、李达等，都曾是广西大学的教授或兼职教授。特殊的时代背景，马君武曾用一句话来描述广西大学的教学气氛，“西大有一种精神，就是‘大家拼命’，这或许是别间学校所没有的。”
当时，广西大学大多数学生来自农村，到梧州第一次见到繁华的城市，有人总爱往城里跑，影响了学习。马君武语重心长地告诫学生： “于兹正值春风惠临，绿柳发芽，水碧山青，春鸟乱鸣，应乘时努力学习，往应该去的地方，如往图书馆、实验室、体育场和大自然去，以求得智识，练好身体。”他还写下一首《示梁生》：“守身严似犬防贼，治学勤如蜂筑巢。但使每年增一尺，到头终比万山高。”勉励学生注意品行修养和勤奋治学。
对于贫寒学生，马君武始终关心有加。他在校内筹集“苦学基金”，家境贫困学生各科成绩在90分以上的，可免去全部学杂费、伙食费和书籍费。对生活费不足的学生，他还提供勤工俭学的机会。
著名教授秦道坚青年时期家庭困难，上不起学，听说广西大学可以半工半读，就给马君武写了一封信。马君武得知他在考试中成绩排名第二，当即在信上批示：准予注册，应交的膳、宿、学、杂费日后再定。 入学后，秦道坚要求工读的事儿一直没有批下来，每逢收费的日子，会计部门就会将一张欠费条子送来，弄得他有口难辩。好不容易期末考试成绩出来了，他考了第一名。第二天，马君武把他叫到校长办公室对他说，拿着条子到会计室去，把这一学期欠的费用结清，以后每天在化学实验室工作两小时。
1936年，白崇禧要在广西大学率先举行军训，“准备作战的本领”，马君武表示同意，这一创武举随后被全国高校采用。由于军训教官态度粗暴，经常打骂学生，引起马君武不满。有一天，上课时间到了，军训教官还在操场给学生训话。马君武气愤之下，叫人打钟，学生们一轰而散。其实，在许多问题上，马君武与白崇禧都是意见相左，但碍于马君武的名望，白崇禧又不便公开辞退，便决定拆解广西大学，并下令改组。 马君武眼看不能保住一个完整的广西大学，气愤之下辞去了校长一职。 1936年广西大学转移到桂林雁山西林公园与省立广西师范专科学校合并。
1939年，省立广西大学经国民政府批准升格为国立广西大学，年，广西大学的学生听说马君武已从上海 回到桂林，便集合到省政府请函，要求批准马君武重任广西大学校长。 马君武第三次出任广西大学校长。上任第一天，马君武说了这样一段话 “我向来不找事做，但若国家有事要我办，我也不辞，尤其是在此国难期间，人人应该尽力救国。我休息了3年，精神业已恢复，不妨再来主持(广)西大(学)。” 为了办好广西大学，他废寝忘食、呕心沥血，身体每况愈下，却毫不在意，经常带病坚持工作。
马君武到来之前，广西大学理工学院在日军空袭中被炸，1937年自梧州迁至良丰。由于没有实验室，原有的机器运到后无处安置，只好放在露天空地。一些仪器虽然装箱，但日久不开，损坏的也不少。还有一部分仪器放在山洞里，因受潮已经生锈。马君武见此情景几乎落泪，立即在雁山修建图书室、物理馆、化学馆、机械馆、材料实验室、电机室、矿)台室及学生宿舍，还拨国币10余万元增添图书仪器，并将山洞里的仪器取出应用，极大地改善了广西大学的办学条件。
抗战期间，此时迁建于桂林的广西大学吸引了很多学术界知名人士任教，学生也来自全国各地， 马君武还利用自己的人脉，延揽了竺可祯、李四光、李达、陈望道、王力、刘仙洲、陈寅恪、黄现璠、盛成、陈焕庸、千家驹、丘晨、施汝为、卢鹤绂、纪育沣、文圣常等一大批著名教授到校任教，学术氛围浓厚，综合实力得到极大提高，学术氛围浓厚，以其当时的师资力量、教学质量以及学生素质，均不逊于国内名牌大学。
抗战后期，广西作为中国大后方，大批专家学者及有志青年荟萃于桂林文化城，广西大学师资队伍更由此得以充实发展，使学校跃居为当时国内重要大学之一，学术力量位居全国前列。…
