楊堅為相,賀若弼時駐軍于鄴城附近,由于他對“太子非器”的私下評議,楊堅恐怕他效忠周室,與尉遲回共同作亂,因遣長孫平馳往代之。賀若弼聞名交代,足證其未有反意,從后來的史實看,他是要實現他父親平定南朝陳的遺志,誰能夠使他實現其志的,他就聽命于誰。這種內爭,他是沒有興趣參加的。楊堅既建隋政權,即有南征之意,因高颎的建議,先瓦解陳的經濟。此計奏效,乃定計伐陳,東路主將,未得其人,乃商諸高颎。高颎說:“朝臣之內,文武才干,無若賀若弼者。”文帝因拜賀若弼為吳州總管,獨當東路攻陳。他與壽州總管源雄,并稱東西重鎮。賀若弼意氣豪邁,曾與源雄相約曰:“交河飄騎幕合浦營,勿使騏上無我二人名。”因獻取陳“十策”,文帝稱善。他的“十策”,史所未傳,以理推之,當為平陳的經國大計。文帝為了賀若弼的獻策,特別賜以寶刀,擢任行軍總管。
賀若弼行軍的第一目標為京口,就是現今的鎮江,與揚州(江都)隔江相對,揚州即晉王楊廣的大本營所在。弼將渡江,親自持酒,對江(長江)而祝曰:“弼親承廟略,遠振國威,伐罪吊民,除兇剪暴,上天長江,鑒其若此,如使福善禍淫,大軍利涉;如有乖違,得葬江魚腹中,死且不恨。”他的豪氣,直可與祖逖擊楫渡江相媲美,同為千古佳話,他的決心滅陳,由此可知,真不愧為賀若敦之子,而善于繼承遺志了。
賀若弼既至前方,對陳軍先以疑兵計紿之。他常常對江岸防軍,施以換防。換防就是把新的防軍接替舊的防軍。新防軍到達防地,大列旗幟,營幕遍野,陳軍看到了,以為隋兵增防,必將對南岸陳軍施行攻擊,于是也積極增兵防守。已而察知舊防軍撤回,因知其為換防性質。如是者多次,陳軍視為常例,不再緊張。但是正在陳軍松懈的時候,賀若弼突然增兵渡江直撲京口,在陳軍猝不及防的情況下,賀若弼很輕易地占領了這個建康東方的重鎮,而且還俘虜了陳的南徐州刺史。于是一路向西,直攻建康,軍令嚴肅,秋毫無犯,有軍士向民間沽酒者,賀若弼立即將他正法。故賀若弼的軍事行動,民間可謂七鬯不驚,甚得一般民眾之愛護。
可是賀若弼進攻建康,并不如攻克京口的容易。建康的最后屏障是紫金山,當時習稱蔣山。京口之役后陳軍集結于蔣山,作最后的抵抗。賀若弼進攻,屢被擊敗,一時無計可施。但賀若弼察知陳的蔣山守軍,已有再衰三竭的情況。時弼軍屯于白土岡,陳軍魯達、周智安、任蠻奴、田瑞、樊毅、孔范、蕭摩訶等,嚴陣以待,田瑞首先犯弼軍,弼雖予擊敗,但魯達等繼之,弼軍反被擊敗,屢次退卻。陳軍在屢次勝利后,頗有驕氣,士卒且有惰狀。賀若弼在屢卻之后,激勵將士,親自督戰,士氣大振,在多次肉搏下,陳軍不支,任蠻奴走降韓擒虎,蕭摩訶被俘。賀若弼將斬蕭摩訶,蕭顏色自若;賀若弼壯之,立即釋放,且禮遇之。此舉更加瓦解了陳軍的士氣,因得直撲北掖門。時韓擒虎已定建康,俘虜了陳后主叔寶。韓軍遂開北掖門,迎賀若弼入城。賀若弼因呼陳叔寶至前,叔寶懼禍,惶恐戰栗而流汗不已,向賀若弼再拜求生。但賀若弼撫之曰:“小國之君,當大國之卿,拜,禮也,入朝不失作歸命侯,無勞恐懼。”但是賀若弼的內心,卻非常恚恨,以未能親執叔寶,功次于韓擒虎,認為莫大的遺憾。因挺刃而出,不平之氣,見于行動中,自此與韓擒虎不睦。他雖然知道克陳之功在韓擒虎之下,但在隋文帝面前,卻以力戰為名,與韓擒虎爭功,其氣量之狹窄,表現無遺了。晉王廣將責賀若弼違令先期作戰之過失,及見賀若弼亦立大功,遂舍而不問。