但，杨坚并没有立刻就攻打陈国，584年的陈国，还没被陈叔宝彻底败完，加之有长江这道天堑，于是杨坚继续推行均田制和租调力役制，在中央建立三省六部制，在地方推行州、县制，改革府兵制等措施，以利于发展社会经济，加强中央集权，提高军队战斗力。

在585年隋开皇五年，南陈至德三年，西梁天保二十四年，杨坚以清河公杨素为倌州总管，经略长江上游。同时在三年内，动员数十万人修缮朔方治岩绿，今内蒙古乌审旗南白城子、灵武治回乐，今宁夏灵武西南一带长城，并于朔方以东缘边险要，筑城数十，以加强北部边防，保障南进时后方无忧。

又在开皇七年587年，废西梁后主萧琮，占领江陵，西梁亡。隋国的势力已经过了长江，逼到了陈国的家门口，此时，南陈也被陈叔宝败的差不多了，隋国的势力都到家门口了，也没引起朝堂的足够重视。

开皇八年588年三月，杨坚下诏，列举陈叔宝罪行又送玺书暴其罪恶二十条，并将诏书在江南散发三十万份，以争取人心。同年十月设置淮南行省於寿春，以晋王杨广为尚书令统筹各路兵马，以高熲为元帅长史决断行军谋略，率八十总管、五十一万八千名士兵南征。

除了正面的作战外，在进军之前，扣留陈使，断绝往来，以保守军事机密，并且派出大批间谍潜入陈境，进行破坏、扰乱活动。

而陈叔宝不纳部将建议，自恃“长江天堑”，疏于防务，为了元会即春节之庆，竟命镇守缘江重镇江州治今江西九江、南徐州治今江苏镇江的两个儿子率战船回建康，致使江防更为薄弱。

十二月，长江上游隋军首先发起进攻。

不知是否还记得，前面有讲，北方攻打南方时，因为不习水战，也不习南方夏季的湿热，多趁冬季长江枯水期，且南方比较冷时，渡过长江攻打南方而南方攻打北方时则相反，因习水战，不习北方冬季的寒冷，趁夏季长江涨水，且北方暖和时，乘船从水路渗入北方进行作战，所以，隋军在十二月时发起攻击。

经过一个月的艰苦奋战，于次年589年正月击破陈军，占领西陵峡口。

陈荆州刺史陈慧纪驻扎公安今湖北公安西北，见大势已去，便率军三万、楼船千余艘，顺江东走，企图入援建康，却与周罗睺被杨俊军阻于汉口以西，陈军最后无法救援建康。隋军杨素继以主力沿江东下，与杨俊军会师汉口，另派刘仁恩部南下湘州治今湖南长沙，击擒陈岳阳王陈叔慎，至此长江中游已非陈国所有。

情况已经如此危急了，陈朝的朝堂之上，却仍有拎不清的奸臣当道！

当隋军陆续占领长江上游的消息传到建康时，均被朝廷掌管机密的施文庆、沈客卿扣压，使得建康城毫无防备。隋军进至长江北岸时，施文庆又以元会春节将至，拒绝出兵加强京口今江苏镇江、采石今安徽马鞍山市西南，等地军备。