1954年1月，筹建中国人民解放军总军械部，致力于研究改善武器装备，加强部队革命化、现代化、正规化建设。2月，任中南军区副司令员兼湖北省军区司令员。还出席了第一届全国人大第一次议。9月，任国防委员会委员、国防部副部长。
1955年3月，任总军械部部长。9月，被授予中国人民解放军大将军衔，并获一级八一勋章、一级独立自由勋章、一级解放勋章。
1956年9月，出席中国共产党第八次全国代表大会，当选为第八届中央委员会委员。
1959年4月至6月，参加中国人民军事友好代表团访问蒙古、东德、波兰、罗马尼亚、匈牙利、捷克斯洛伐克、阿尔巴亚七国。
1959年11月任军事科学院副院长，协助院长叶剑英元帅致力于军事科学的研究工作。
1960年，组织领导了中国人民解放军各种条令条例的制订工作，还参加徐向前主持的红四方面军战史编委会的领导工作（至1973年结束）。10月，出席军委扩大会议。
1961年2月，向中央军委副主席刘伯承、徐向前、聂荣臻汇报《合成军战斗概则》、《连以下步兵战斗条令》、《空军飞行条令》的制订情况。
1961年至1963年，主持筹建军事科学院军事技术直观教研馆，建成后的该馆分设9个教研所，成为对干部进行军兵种知识和合成军知识教育的基地。
文化大革命
1969年4月，出席中国共产党第九次全国代表大会，当选为第九届中央委员会委员。
1970年3月，遵照中央军委和周恩来总理的指示，带领军宣队进驻七机部等国防工业口，对其所属院、所、厂实行军管。
1971年6月，出席军事科学院第一届党代会。11月30日，陪同周恩来总理接见阿尔巴尼亚军事代表团。
1972年1月，遵照中央军委的指示，带领11人组成的“学习调查组”赴南京军区调查，为军委扩大会议的召开提供第一手材料，向军委写出了林彪对军队建设进行破坏情况的调查报告。2月，陪同周恩来总理会见美国总统尼克松。以国防部副部长名义邀请坦桑尼亚军事代表团来华访问。陪同董必武代主席，接见斯里兰卡总理班达拉奈克夫人。10月，以国防部副部长名义邀请秘鲁军事代表团来华访问。11月，任军事科学院第二政治委员，党委第二书记。
1973年8月，出席中国共产党第十次全国代表大会，当选为第十届中央委员会委员。
病逝
1974年1月7日，王树声在北京逝世，享年69岁，1月10日在北京八宝山革命公墓礼堂举行了隆重的追悼会。1987年，家乡人民根据王树声的遗愿，将他的部分骨灰安葬在他曾经战斗过的麻城烈士陵园。
人物评价
他是中国共产党的优秀党员。几十年来，他在毛主席、党中央的领导下，在长期革命战争中，在社会主义革命和社会主义建设中，忠于党，忠于人民，努力学习马克思主义、列宁主义、毛泽东思想，贯彻执行毛主席革命路线，艰苦奋斗，积极工作，诚恳坦白，联系群众，勤勤恳恳地为人民服务，为革命事业贡献了一生。
人物轶事
善射将军
将军善射，于红四方面军有“神射手”之称。1927年黄麻起义时，王树声将军率领农民自卫军守麻城。敌红枪会万余人攻之。将军登城北门，见敌蜂拥蚁行而至，为首是一红衣“师爷”。将军取步枪，推弹上膛，射之，“师爷”应声倒地，群匪四散逃命。红四方面军老战士董国元言，长征途中某日，见王树声将军为红军战士授短枪射击要领。将军举驳壳枪，指一座屋顶言：“我打右下角翘起的三片瓦”，话音刚落——啪、啪、啪！三片瓦被击得粉碎。“文革”中某日，将军为其子表演射技，以气枪击梨树上的梨子，连发三枪，三只梨相继坠地。其子捡之，见三梨竟完好无损，盖弹丸均击于梨把上也。该年将军已逾花甲。
打劫自家
红军时期。有一次夜里，王树声带上几个红军战士，潜回村里，去抢劫自己的叔奶奶家。队伍破门而入，放话要钱。在朦朦的月光中，叔奶奶认出了王树声，老人家大吃一惊，当场喊出了他的小名，并对他说：“娃儿呀，你要钱，就直接回来跟叔奶奶说，用不着带上刀枪来叔奶奶家抢的。”
遭劫下跪
1937年3月13日，红九军剩余的300多人和骑兵师剩下的100多骑兵，编为右支队，由西路军副总指挥兼九军代军长王树声等率领，沿祁连山深处向东跋涉。西路军失败后，大家又把两个行动不便的伤员隐蔽好，
王树声把剩下的8个人分成两个小组，分路赶回陕北：王树声、杜义德加上营长谭云保和一个通讯员是一路；李新国和通讯员曹丕堂、秦传山、周德玖是一路。王树声、杜义德、谭云保等4人与李新国等4人在民勤骆驼店分手后，当天夜里，王树声等4人遇到蒙古土匪（李新国则说是蒙古盐卡的税警）的包围。土匪大声喊叫著，让王树声他们缴枪。4人冲出房子，见十几支黑洞洞的枪口在骆驼后面瞄着他们。杜义德拔枪要打，王树声大声制止着。王树声“扑通”一声跪了下来，杜义德等惶惶然，赶紧把他扶起，王树声说：“他们是一伙经济土匪， 要的是我们的金条和枪，不是我们的人。要不他们早就该开枪了。土匪人那么多，打起来只能遭受无谓的牺牲；再说，伤了帐篷里的老百姓怎么办，我们的使命是到陕北去，向党中央汇报。革命战士不怕死，可死在这里值得吗”，3个人被勉强说通，痛苦地把枪和金戒指之类交给了土匪。果然土匪没有杀他们，并每人还给他们一个金戒指，让他们作东去的路费。走到靖远县境，王树声巧遇红五军保卫局长欧阳毅。他也是在西路军失败后，东返途中辗转流落到此的；因身体不好，又用光了盘缠，就发挥自己的一技之长，在这里写字卖字，想休息一段，再行东去。见到副总指挥王树声，欧阳毅喜出望外，便想让王树声给自己打下手，抻抻纸，磨磨墨，等积攒点盘缠再走。王树声不屑于此。欧阳毅只好随这位副总指挥一起东去。王树声生得敦实剽悍，脸上点缀着许多紫红的酒刺疙瘩，绰号“绷麻子”。一般胆小的百姓见了就怕。在向一家老乡找饭吃时，王树声因与老乡成年的儿子发生口角，被追逐，先行逃跑。后又遇开明绅士俞学仁，陪他到陕北。刚踏入陕甘宁边区地界，王树声就被几个红军便衣侦察员掀翻在地，捆了起来。押回驻地，首长见了，这才被证明他不是国民党马家兵的奸细。那开明绅士俞学仁也陪着受了一场虚惊。这将军之跪，并非王树声的耻辱，倒是他粗中有细，灵活决断，善於在特殊情况下保存自己的绝好例证。不然，何以有建国以后的大将王树声，何以有大军区司令员杜义德。
革命伴侣
抗日战争时期某日，将军洗头净面，着装全新，勇进门诊部，突然对正在值班的医生杨炬说：“杨医生，我对你印象很好”杨炬吓了一跳，脸红耳赤，扭头躲进隔壁换药室。将军则昂首挺胸，向后转，退出门诊室，不失风度。后来，将军第二次与杨炬见面，依然昂首挺胸，说：“小杨同志，请你嫁给我。”杨炬无言默许了他。将军于是与杨炬恋爱一年，遂定终身。
1944年中秋，王树声将军和杨炬一起看望贺龙和徐向前。贺、徐都很高兴，建议说：“今晚是中秋佳节，就把婚事办了。”杨炬说：“我们还没有向组织打报告呢。”徐向前说：“我是树声老上级，可以当半个家。”贺龙说：“我是联防军司令，完全赞同。”于是强留王树声与杨炬当日办婚事。当日晚，众将官闹新房，逼王树声将军与杨炬交代恋爱经过。杨炬羞答答言“他呀，可真厉害！”王树声将军立即回道“她呀，真调皮！”是时徐深吉为之作喜联：调皮遇厉害；花好见月圆。横批：革命伴侣。邵式平书写。中原突围前夕，王树声将军与杨炬分散突围。临别，将军取与杨炬合影照片，于背面题诗赠之：“久别重逢今又别，不知人月几时圆？伤思艰险犹尝尽，誓将奋斗会中原。”此照片杨炬保存至今。
公私分明 …
