開寶二年（北漢天會十三年、969年）二月，趙匡胤終於決定要解決割據於河東的北漢政權了。於是，下詔北伐太原。
趙匡胤此番徵北漢，連引汾水灌太原城都用上了，但是也如當年柴榮一樣，勞師而無功。但是，趙宋並未就此放棄兼併河東的計劃。趙匡胤採納謀臣薛華光之言：
凡伐木，先去枝葉，後取根柢。今河東外有契丹之助，內有人戶賦輸，竊恐歲月間未能下，宜於太原北石嶺山及河北界西山東靜陽村、樂平鎮、黃澤關、百井社各建城寨，扼契丹援兵；起其部內人戶於西京、襄、鄧、唐、汝州，給閒田使自耕種，絕其供饋。如此，不數年間，自可平定。
趙匡胤
此後數年，宋朝對北漢採取的便是這種斷其外援、絕其供饋的釜底抽薪之戰略。北漢的人口大量被宋朝所稀釋，關於這方面的記載很多，北漢到亡國之時，國內只有三萬多戶。北漢後來由於人口的流失使得國家賦稅大減，不僅宰相官員需要再次減免傣祿，甚至要向遼國借糧食;北宋在北漢界上設立軍寨，一方面可以吸納北漢流民同時也可以適時出擊騷擾北漢。
開寶九年（976年）八月，趙匡胤第二次派兵征伐北漢。但是，是年十月，這位馬上皇帝就在斧聲燭影中離奇死去，宋太宗趙光義即位。趙宋皇權轉移，政局不穩，趙光義下令暫停徵討河東，趙宋武力統一的步調重新回到“先南後北”舊策上。
太平興國三年（978年）四月，割據漳、泉的陳洪進降宋；五月，割據兩浙十三州五十餘年的的錢氏吳越王國也納土歸宋。至此，南方几乎全部平定，趙宋解決北漢問題的後顧之憂完全解除。
太平興國四年（979年）正月，趙宋揮師伐北漢。在動武之前，趙光義也統治遼國，態度非常強硬：“河東逆命，所當問罪，若北朝不援，和約如舊，不然則戰！”
趙光義
正月十二日，任命潘美為北路都招討制置使，命令彰信軍節度使崔彥進攻城東，彰德軍節度李漢瓊攻城南，桂州觀察使曹翰攻城西，彰信軍節度劉遇攻城北。宋軍來伐，北漢劉繼元確實向遼國求援。遼國派出兩路援軍馳援忻州，但是宋軍在此早有部署，宋太原石嶺關都部署郭進在此阻擊遼軍，殲滅契丹軍一萬多人，迫使其退出河東戰局。
失去契丹援救的劉繼元，有如甕中之鱉。宋軍多處得手，到到四月底，北漢只剩下太原、汾州等二、三個據點。是年五月六日，陷入絕境的劉繼元率領官屬穿戴白衣紗帽在在太原城北連城臺下俯伏請罪，向趙光義投降。降宋之後的劉繼元被宋廷冊封為檢校太師、右衛上將軍、彭城郡公，舉族歸汴京。
宋滅北漢
至此，北漢十州、四十一縣、三萬五千二百二十戶及三萬軍隊全部歸順宋朝。趙光義下詔，平毀太原城，永絕河東割據之後患，唐朝李淵父子龍興之遺蹟也不復存在。
北漢覆滅不僅是宋朝“先南後北”統一戰略的完成，也是持續70餘年五代十國分裂動盪時代的終結。
天下歸於宋，但漢唐之大一統不復再見了！
