进入1944年后，罗科索夫斯基的部队继续推进。2月中旬，白俄罗斯方面军改称白俄罗斯第1方面军。进入4月份后，白俄罗斯低地道路泥泞，部队不能进行任何调动。战斗暂停。白俄罗斯第1方面军转入防御。
1944年5月30日，苏军最高统帅部大本营批准了代号“巴格拉季昂”的白俄罗斯战役计划。战役目的是：以巴格拉米扬大将的波罗的海沿岸第1方面军、切尔尼亚霍夫斯基上将的白俄罗斯第3方面军、扎哈罗夫上将的白俄罗斯第2方面军和苏联元帅罗科索夫斯基的白俄罗斯第1方面军，在维捷布斯克、博古舍夫斯克、奥尔沙、莫吉廖夫和博布鲁伊斯克等方向同时发起进攻，分割德军战略防御正面，于维捷布斯克和博布鲁伊斯克地域歼敌，尔后向纵深挺进，在明斯克以东围歼敌第4集团军，为各方面军发展战役创造最有利条件。
此役苏军投入兵力240万人，德军兵力为120万人。战役于6月23日打响。拥有最大兵力的罗科索夫斯基的白俄罗斯第1方面军于24日开始进攻，激战5天，在200公里正面上突破德军防御，围歼德军博布鲁伊斯克集团，向纵深推进110公里。这一辉煌战绩受到最高统帅部的高度赞扬，29日，罗科索夫斯基不仅被晋升苏联元帅军衔，成为战争期间第六个获此殊荣的高级将领，还荣膺苏联英雄这一崇高荣誉，可谓双喜临门。
1944年，罗科索夫斯基与其他指挥官策划了巴格拉季昂行动，罗科索夫斯基提出的同时发动两场进攻的提案颇受争议，罗科索夫斯基曾经回忆说，自己两次被请到旁边的屋子里，要求重新考虑统帅部的建议，然而每次深思熟虑后，自己都更加坚定。最后，斯大林说：“方面军司令的坚持，证明此田是经过深思熟虑的，这是取得胜利的坚强保证。”
苏军4个方面军的进攻取得全面胜利。1944年7月5日到11日，苏军在明斯克以东围歼了德第4集团军(参见明斯克战役)。
到1944年7月16日，白俄罗斯第1方面军各集团军已前出至斯维洛奇河、普鲁扎内一线，12天前进150—170公里。1944年7月20日，罗科索夫斯基前出到苏联边界西布格河，并强渡过河，进入波兰国境，迅速向维斯瓦河推进，24日解放了卢布林，28日解放了布列斯特(参见卢布林—布列斯特战役)，尔后在华沙方向上不断发动进攻。8月初，罗科索夫斯基暂缓对华沙的进攻。
白俄罗斯战役于8月底结束，苏军歼敌54万人，给德“中央”集团军群以毁灭性打击，向西推进了500—600公里，解放了白俄罗斯全部领土，以及立陶宛部分领土和波兰东部。事实证明，罗科索夫斯基的提案是完全合理的。此后，斯大林开始以全面称呼罗科索夫斯基，在次之前，唯一得到此姓名尊称的只有沙波什尼科夫元帅一人。
白俄罗斯战役结束之后，罗科索夫斯基积极准备华沙战役，并准备向德国境内挺进。10月中旬，斯大林突然调他转任白俄罗斯第2方面军司令员。白俄罗斯第1方面军交由朱可夫指挥。罗科索夫斯基感到困惑：“为什么把我从主要方向调到次要地段?”斯大林回答：“你错了。白俄罗斯第2方面军将是西攻主要方向上的三个方面军之一。白俄罗斯第1、第2方面军和乌克兰第1方面军将结束在德国的战争。”苏军最高统帅部大本营为参加决定性战役的白俄罗斯第2方面军配备了大量的兵力和兵器。罗科索夫斯基辖7个合成集团军，1个坦克集团军，1个空军集团军，1个机械化军，1个骑兵军和数个炮兵师，总计88万余人，有1500架飞机，2195辆坦克和自行火炮，1万1千多门火炮和迫击炮。
1945年1月13日，苏军大本营以罗科索夫斯基的白俄罗斯第2方面军、切尔尼亚霍夫斯基大将的白俄罗斯第3方面军、巴格拉米扬大将的波罗的海沿岸第1方面军和弗拉基米尔·菲利波维奇·特里布茨海军上将的红旗波罗的海舰队，共167万人，发动了西进德国的东普鲁士战役。
白俄罗斯第1方面军在战役开始后的第二天发起进攻，6天后攻入东普鲁士境内，占领许多防御支撑点，1月底与白俄罗斯第2方面军合力消灭了乌祖里地区的德军。苏军将东普鲁士德军分割成三个孤立集团，德军防线崩溃。
此时，位于进至奥得河的白俄罗斯第1方面军和在东普鲁士作战的白俄罗斯第2方面军之间的东波美拉尼亚地区，形成百余里的空隙。德军统帅部急调“维斯瓦”集团军群，企图歼灭白俄罗斯第1方面军，固守奥得河防线，扭转柏林方向上的不利形势。为了顺利进攻柏林，苏军最高统帅部决定将最后消灭东普鲁士德军的任务交由白俄罗斯第3方面军完成，抽出白俄罗斯第2方面军主力歼灭“维斯瓦”集团军群，占领东波美拉尼亚(参见东波美拉尼亚战役)。
1945年2月10日，罗科索夫斯基的中央和左翼部队从布罗姆贝格以北维斯瓦河各登陆场向斯德丁方向发起进攻，在友邻白俄罗斯第1方面军部队的配合下，罗科索夫斯基于3月底占领了格丁尼亚和但泽。
为了奖励罗科索夫斯基“对大规模战役进行优异指挥，在摧毁法西斯德军的斗争中获得的辉煌胜利”，苏联最高苏维埃于1945年3月31日授予他苏联最高军功章——“胜利”勋章。
1945年4月4日，罗科索夫斯基彻底击溃德军余部，解放了东波美拉尼亚，消除了进攻柏林的苏军侧翼威胁，为攻占柏林创造了有利条件。
1945年4月16日，苏军发动攻占柏林的战役(参见柏林战役)。苏联元帅朱可夫的白俄罗斯第1方面军和苏联元帅科涅夫的乌克兰第1方面军同时向柏林发起进攻。罗科索夫斯基受命向西方方面前进，包围德军坦克第3集团军主力，分割柏林地区德军集团。4月26日，白俄罗斯第2方面军部队占领了德国大城市斯德丁。此后罗科索夫斯基各部以每天平均25—30公里的速度推进，5月2日前出至波罗的海沿岸。5月3日，潘菲洛夫的近卫坦克兵与英国第2集团军的战士会师。
战后
柏林战役于1945年5月2日结束。8日，德军向苏军和盟军远征军投降，苏德战争和欧洲战争结束。
1945年6月1日，苏联最高苏维埃主席团发布命令：“为表彰苏联元帅康斯坦丁·康斯坦丁诺维奇·罗科索夫斯基在东波美拉尼亚和梅克伦堡地域模范地完成最高统帅部赋予他的战斗任务，卓越地指挥了与德国侵略者进行的各次战役，以及在战役中获得的胜利，特授予他第二枚苏联英雄‘金星’奖章，建立铜像，按在座台上，立于受奖者的故乡。”
战后职务
1945年6月24日，罗科索夫斯基元帅获得了他军人生涯的最高荣誉。斯大林命令他指挥了莫斯科红场上的反法西斯德国胜利的阅兵式。
战后，1945—1949年任北部军队集群总司令。1949年10月应波兰人民共和国政府邀请，经苏联政府批准，赴波兰担任波兰人民共和国部长会议副主席兼国防部部长，获波兰元帅军衔，并被选为波兰统一工人党中央政治局委员、议会议员，同时保留苏联国籍和苏联元帅军衔。1956年回国后，任国防部副部长。1957年7月兼任总监察长，10月任外高加索军区司令。1958—1962年复任苏联国防部副部长兼总监察长。1962年4月起任苏联国防部总监组总监。他根据以往战争经验和军事上的科学技术革命，为战后时期苏联武装力量的发展做了大量工作。1956—1968年为苏共中央候补委员。苏联第二届和第五——七届最高苏维埃代表。
1968年8月3日，罗科索夫斯基在莫斯科逝世，终年72岁，葬于红场克里姆林宫红墙下。
所得荣誉
罗科索夫斯基一生共获“金星”奖章两枚，获列宁勋章7枚，十月革命勋章1枚，红旗勋章6枚，一级苏沃洛夫勋章和一级库图佐夫勋章各1枚，奖章及外国勋章、奖章多枚，苏联“胜利”最高军功勋章1枚，荣誉武器1件。
著作
《军人的天职(又称罗科索夫斯基元帅回忆录）》…
