但是,人民解放军横渡长江以后,在各个战场上向国民党残余部队展开扫荡,势如破竹,蒋介石绞尽脑汁,疲于奔命,也无法挽救其彻底灭亡的命运。
在华北方面,华北野战军于4月20日向太原发动攻势,4月24日太原被占领,阎锡山十二万人被全歼。随后,大同、新乡、安阳先后失守。6月2日,刘安琪第二十一兵团也从青岛经海路南逃,华北全境完全被解放。
在西北方面,从1949年5月起,人民解放军第一野战军进军西北,向胡宗南集团及甘肃马步芳、宁夏马鸿逵等部发起攻势。胡宗南先后丢失咸阳、西安、宝鸡、凤翔等,被歼四万五千人,残部退往四川。而二马更被解放军一路追击,先后丢失平凉、天水、兰州、西宁、银川,到9月底,马家军被歼约十五万人。同时,西北军政副长官兼绥远省主席董其武及兵团司令孙兰峰于9月19日率五万人通电起义;新疆警备总司令陶峙岳及新疆省包尔汉于9月26日率十万人通电起义。西北全境也被解放。
在东南方面,蒋介石力图保住福建及沿海岛屿,借以屏障台湾。7月23日,他亲到厦门召集朱绍良、汤恩伯、李延年等开会,部署福建、厦门、金门的防务,以周喦、石觉率三个军约六万人据守舟山群岛;朱绍良、汤恩伯指挥李延年、刘汝明、李良荣三个兵团十个军约十五万人据守福州、厦门、泉州、漳州及沿海岛屿。7月下旬起,华东野战军发起福州战役,国民党军节节溃败。8月17日,福州被攻占;10月17日,厦门被攻占,被歼十余万人。汤恩伯、朱绍良、李延年等逃往台湾。
1950年5月,解放军准备渡海解放舟山群岛,国民党十二万五千守军秘密撤往台湾。5月19日,舟山群岛被解放。
在华南方面,5月14日,解放军在武汉附近突破长江防线,白崇禧率部撤离武汉,退入湖南。5月15日,河南省主席兼第十九兵团司令张轸率二万余人在贺胜桥、金口起义。武汉、九江、南昌先后被解放。8月4日,湖南省主席程潜和第一兵团司令陈明仁率三个师在长沙起义,迫使白崇禧集团主力退到衡阳、宝庆(邵阳)一线。蒋介石命令白崇禧统一指挥鄂赣湘桂四省军事。当时,白崇禧所能指挥的军队,有其主力五个军、宋希濂集团、余汉谋集团以及黄杰兵团、鲁道源兵团、孙震兵团、沈发藻兵团、胡琏兵团等。9月中旬,人民解放军发起衡宝战役,10月6日攻占韶关,切断白崇禧集团逃往广东的退路。白崇禧被歼四万七千余人,于10月17日向湘桂边境败退。解放军发起广东战役,10月14日占领广州,国民党政府逃往重庆。余汉谋集团往粤西溃退,刘安琪兵团近五万人在两阳地区被全歼。胡琏兵团则由汕头逃往台湾。白崇禧集团退入广西后,尚有五个兵团近二十万人。白崇禧以张淦兵团、鲁道源兵团共五个军南下雷州半岛,企图与余汉谋残部会合,从海上逃跑,但在博白地区被解放军歼灭,张淦被俘虏。12月,解放军发起广西战役,徐启明兵团在灵山以西被歼,黄杰、刘嘉树两兵团在桂越边境被歼,刘嘉树被俘虏。1950年4月16日深夜,解放军横渡琼州海峡,在海南岛登陆,突破海南防卫总司令薛岳设立的三道防线(薛岳字伯陵,自称&ldo;伯陵防线&rdo;),歼敌三万余人。薛岳率残部六万余人乘船逃往台湾。至此,华南全部被解放。
在西南方面,蒋介石试图利用西南地区的崇山恶水,阻挡解放军进入,使之成为日后反攻的基地。1949年8月24日,他由广州飞往重庆,亲自处理西南军政事务(李宗仁于前一天从桂林经香港飞往美国)。蒋介石先后多次召集四川张群、贵州谷正伦、西康刘文辉等各省头目以及胡宗南、宋希濂、罗广文、李弥等高级将领开会、布置西南防务。他以胡宗南集团三个兵团十二个军依托秦岭、白龙江、米仓山、大巴山构成防线,阻止第一野战军入川。以宋希濂集团两个兵团两个军,在恩施、奉节一带共守川东大门。以罗广文兵团两个军在南充、大足一线作机动。以贵州绥靖公署主任谷正伦之何绍周兵团两个军守川黔边境。以云南绥靖公署主任卢汉部四个军守云南。11月初,人民解放军发起西南战役,国民党军四处溃退。11月14日贵阳丢失;11月29日,重庆丢失,蒋介石及行政院逃往成都。12月8日,蒋介石及行政院召开紧急会议,决定逃往台北。12月9日,云南省主席卢汉、西康省主席刘文辉、西南军政公署副长官邓锡侯、潘文华分别在昆明、彭县、雅安宣布起义,云南、西康和平解放。卢汉致电刘文辉,要其会同四川各将领扣留蒋介石,此电被蒋介石截获,次日,慌忙携子乘飞机逃离成都去台湾。12月21日至27日,孙元良、罗广文、陈克非、裴昌会、李振五兵团先后起义,成都解放。胡宗南、宋希濂率残部逃往西康。李文兵团三个军企图突向西康逃跑,大部被歼,李文被俘虏(后从看守所逃走去了台湾)。李弥第八军和余程万第二十六军曾进攻通电起义的卢汉部,失败后逃往蒙自,1950年1月中旬,分别在蒙自、沅江地区被消灭,李弥、余程万率数千残兵逃入越南、缅甸。1950年3月,人民解放军以六个军分由成都、昆明夹击西昌地区的国民党军残部三万五千余人,国民党军大部被歼,宋希濂被俘虏,胡宗南乘飞机逃跑,西昌解放。在西南战役中,国民党军被歼九十三万人。1951年,西藏和平解放。至此,整个中国大陆全部解放。