早在淮海战役临近结束时，蒋介石就已决定放弃淮河防线，将长江以北的残余军队撤至长江以南。接着在“和谈”的掩护下，又加紧部署长江防线。这时，国民党军队在从湖北宜昌到上海的1800余公里的长江沿线，部署了约70万兵力。其中京沪杭警备总司令汤恩伯部约45万人，在江西湖口至上海的地段上布防；华中军政长官公署白崇禧部约25万人，在湖口至宜昌的地段上布防。另以海军舰艇120余艘、空军飞机280多架支援作战。他们幻想依凭长江天险和海空军优势，阻止人民解放军渡江南进。
针对国民党军队在长江以南的布防情况，中共中央军委决定以第二、第三野战军及地方部队共100万人，首先在长江下游发起渡江作战，歼灭汤恩伯集团；同时以第四野战军一部12万人组成先遣兵团，在平津战役结束后迅速南下，参加渡江作战。为了加强渡江作战的统一领导，1949年2月11日，中央军委决定，由刘伯承、陈毅、邓小平、粟裕、谭震林在淮海战役期间组成的总前委，在渡江作战中“照旧行使领导军事及作战的职权”。党的七届二中全会没有单独讨论军事问题，但对战争形势的发展极为关注。七届二中全会结束后，3月下旬，总前委根据中央军委的意图，制定《京沪杭战役实施纲要》，决定组成由粟裕、谭震林、刘伯承分别指挥的东、中、西三个突击集团，在江阴至湖口间500余公里的地段上，有重点地分路突破国民党军队的江防；另以第四野战军先遣兵团归西集团指挥，在武汉正面钳制白崇禧集团，策应第二、第三野战军渡江。
南京国民党政府拒绝在《国内和平协定》（最后修正案）上签字后，中国人民革命军事委员会主席毛泽东、中国人民解放军总司令朱德，命令人民解放军“奋勇前进，坚决、彻底、干净、全部地歼灭中国境内一切敢于抵抗的国民党反动派，解放全国人民，保卫中国领土主权的独立和完整”。同时指出，对于凡愿停止战争、用和平方法解决问题的国民党地方政府和地方军事集团，可以按照《国内和平协定》（最后修正案）的大意，同他们签订地方性的和平协定。
4月20日20时，人民解放军突击集团首先渡江，并迅速突破安庆、芜湖间防线。4月21日晚，东、西两突击集团分别从镇江、江阴和贵池、湖口间渡江。解放军用木帆船做主要航渡工具，广大指战员发扬英勇顽强、有进无退的战斗作风，不顾国民党军队陆海空协同的炮火阻击和多次反扑，千帆齐发，于4月22日胜利地突破国民党军队近千里的江防阵地，登上南岸，并争取江阴要塞守军起义，控制江阴炮台，封锁了长江。
当渡江作战即将发起时，4月20日9时左右，英国“紫石英”号军舰由东向西，闯进长江人民解放军防线，不顾解放军警告，强行溯江上驶，双方发生激烈炮战。该舰被击伤后，搁浅于镇江附近江面。4月20日13时，停泊南京的英舰“伴侣”号下驶接应“紫石英”号，被击伤后仓皇向东逃窜。4月21日上午，英国远东舰队副总司令梅登中将率旗舰“伦敦”号和快速舰“黑天鹅”号溯江西上，被解放军炮火击伤后东逃。三次炮战毙伤英军11人，包括舰长、副舰长4人（一毙三伤）。长江炮战事件，震惊世界。英国议会反对党领袖、后任工党政府首相的麦克米伦在议会辩论此事时，不得不哀叹英国政府的“炮舰观念”似乎是“太过时了”。保守党领袖丘吉尔主张派航空母舰到中国海上“实行武力的报复”。人民解放军总部发言人在4月30日发表声明，指出“中国的领土主权，中国人民必须保卫，绝对不允许外国政府来侵犯”，要求英方道歉和赔偿损失，并要求英、美法等各国的武装力量“迅速撤离中国的领水、领海、领土、领空”。声明中也宣布，人民政府愿意保护从事正当职业的外国侨民，愿意考虑同与国民党政府断绝关系的各外国政府在平等、互利、互相尊重领土主权的独立和完整的基础上建立外交关系。声明表达了中国人民不怕威胁、坚决反对帝国主义侵略的严正立场。鸦片战争以来，帝国主义者依仗船坚炮利在中国横行霸道的时代，已经一去不复返了。
国民党政府在其江防被全线突破后，于4月22日下午仓皇部署并退却，并企图在浙赣路和上海地区组织新的防御。国民党政府留在南京的许多机构仓皇迁移广州，“代总统”李宗仁逃往桂林。胜利渡江的人民解放军，于4月23日解放国民党反动统治的中心南京。南京的解放，标志着国民党22年反动统治的崩溃。4月25日，南京市军事管制委员会成立，由刘伯承、宋任穷分任正副主任，刘伯承兼任南京市市长。渡江战役第一阶段突破江防的任务胜利完成。
南京解放后，人民解放军中、东两突击集团在粟裕统一指挥下东西对进，迅速在皖南郎溪、广德地区包围歼灭南京、镇江逃敌五个军，于5月3日解放杭州，进逼上海。西突击集团分路向浙赣路齐头并进，到5月7日，先后占领浙赣路上的上饶、横峰、贵溪，解放金华、衢县等城市，先期截断浙赣路。同时，第四野战军先遣兵团和中原军区部队，占领湖北孝感、黄陂，逼近武汉。上述追击作战的胜利，粉碎了国民党军队在浙赣路组织顽抗的企图，切断了汤恩伯与白崇禧两集团的联系。至此，渡江战役第二阶段结束。
汤恩伯集团一部在郎（溪）广（德）地区被歼后，主力约20万人退守上海及其周围地区，在蒋介石直接部署下，企图凭借囤集的大量作战物资和4000多处钢筋水泥工事坚守，并阴谋挑动英、美进行武装干涉。上海是中国最大的工商业中心，也是帝国主义长期侵略中国的重要基地。中央军委要求人民解放军在解放上海的过程中，既要彻底消灭敌人，又要尽量保护上海数百万人民的生命财产和各种市政设施、工厂、学校，还要准备对付帝国主义可能的武装干涉。5月12日，第三野战军主力对上海外围发起进攻。为避免战火波及主要市区，攻击部队采取钳形攻势，分别自浦东、浦西进逼吴淞口，逼敌退出主要市区，缩集于苏州河北，然后加以聚歼。第二野战军主力则在浙赣路上金华至东乡段休整，准备对付帝国主义可能的挑衅。
5月23日夜，解放军发起对上海的总攻，以快速勇猛的动作，多路直插市区追歼国民党军队。到5月27日，除汤恩伯率5万人登舰逃跑外，其余15万余人全部投降或被歼灭，上海宣告解放。当天，上海市军事管制委员会和上海市人民政府成立，陈毅任上海市军管会主任兼上海市市长，粟裕任军管会副主任。在进占上海的过程中，人民解放军指战员模范地执行党的城市政策，露宿街头，不进民房，保护外侨，严格遵守三大纪律、八项注意，赢得了上海市民的热烈欢迎和爱戴。
在第三野战军围歼汤恩伯集团期间，武汉地区的白崇禧拒绝中共提出的忠告，不愿以和平方式解决中南地区的问题，并准备南撤湘、赣、粤、桂地区，继续抵抗。5月14日，第四野战军先遣兵团在湖北团风至武穴地段横渡长江，16日解放汉口，17日解放武昌和汉阳。国民党军第十九兵团司令官张轸率部2万余人起义，加入人民解放军。与此同时，为策应第四野战军先遣兵团的渡江，第二野战军一部于5月17日解放九江，22日解放南昌。第三野战军一部于6月2日解放长江口外的崇明岛。至此，渡江战役胜利结束。
渡江战役历时42天，人民解放军以木帆船为主要航渡工具，一举突破国民党军的长江防线，并以运动战和城市攻坚战相结合，合围并歼灭其重兵集团。此役，人民解放军伤亡6万余人，歼灭国民党军11个军部、46个师共43万余人，解放了南京、上海、等大城市，以及江苏、安徽两省全境和浙江省大部及江西、湖北、福建等省各一部，为尔后解放华东全境和向华南、西南地区进军创造了重要条件。