北汉自郭威建立后周时便与之为世仇，建宋之后两国交恶的形势依旧没有改变。
赵大为铲除割据政权，完成统一全国的大业，与宰相赵普商议，参考后周显德二年（公元955年）北部郎中王朴所献“平边策”，制定了“先南后北、先易后难”的统一战争战略方针，准备首先吞并南方各割据政权，在取得南方雄厚的人力物力后，再集中力量对付北面的强敌辽国，消灭北汉。
因北汉比较弱小，且处于战略要地河东，为阻遏其与辽军南下来袭，宋军常对北汉以攻为守，先后发动多次进攻，企图相机进取。
譬如在乾德元年（公元963年）七月，赵大在平定荆湖谋伐后蜀之际，就曾派安国节度使王全斌等进入北汉边地试探性的征伐北汉。
北汉睿宗刘钧向辽乞援，想对宋打反击战。
王全斌等则趁辽尚未发兵，夺占北汉乐平，并攻打辽、石二州，未果而撤退。
次年正月，宋军又来进攻辽、石等州，北汉辽州刺史杜延韬降宋，北汉再次向辽告急，辽穆宗耶律璟发骑兵六万驰援，将宋军击退，成功助北汉解围。
开宝元年（公元968年）平定后蜀之后，北汉国主刘钧刚死，人心未定，赵大趁机突然转兵大举进攻北汉。
八月宋军进兵太原，九月北汉内部便发生动乱，时任供奉官的侯霸荣杀死北汉新主薛继恩，司空郭无为又设计杀死候霸荣，迎立太原尹刘继元为国主。
新君刘继元见宋军已入其境，急忙向辽请援，同时命侍卫都虞候刘继业、冯进珂等领兵扼守团柏谷以拒宋军，可惜敌我实力相差悬殊，宋军轻而易举的击败北汉守军击，直逼太原城下。
十月，赵大遣使至太原劝降，刘继元拒绝降宋。
十一月，辽军兵马总管塔尔率大军救援北汉，逼进太原。
时任昭义军节度使的李继勋因久攻太原不下，辽军又至，遂引兵南归。北汉军乘机发动追击，进掠大宋晋、绛两州人口、粮草、牛羊归北汉者无可计数。
开宝二年（公元969年）二月，赵大命曹彬、党进各领兵先赴太原，又御驾亲征在后，誓要一战灭北汉国。
刘继业、冯进珂二将得知赵大已至潞州，并派李继勋率前军赶往团柏谷，自知寡不敌众，放弃太谷奔还太原。
因大雨连绵十多日，等到三月时赵大才赶到太原。
因先前数次较量中清楚的认识到了太原城之坚固，又恰巧暴雨诱使河水猛涨，遂征发当地民工数万人，修筑长墙包围太原，并筑长堤，引汾水灌城，多方进攻。
然而太原军的抵抗意志实在超乎寻常，这般恶劣的环境中硬是抵抗了三个多月，致使宋军迟迟无法破城。
以至于到了夏季，天气酷热，宋军营中数万人患上疫病，又逢辽军出兵救援北汉再三权衡之下，赵大只能选择退兵。
出乎众人意料的在于赵大撤军没出两天，太原城墙就因为先被水淹再被烈日暴晒，出现了大面积的龟裂，甚至有多处垮塌。
这也就是说如果最开始赵大不急着攻城，而是先让太原泡几天水，再把水抽干暴晒，那不用宋军动手，城墙自己就会倒塌了。
赵大等君臣得知此事后也是追悔莫及，只可惜现实就是现实，没有如果发生。
开宝八年（公元975年）十月，南方最后一个大国南唐也被征服，赵大再兴北伐之举，并准备收复燕云。
次年八月，先派侍卫马军都指挥使党进、宣徽北院使潘美等分率五路军马又双叒叕云集太原城下，与北汉军和来援的辽军展开激战。
然而，就在宋军得胜北汉将亡的关键时刻，远在汴梁的赵大突然驾崩，他的死再一次打乱了宋朝内部的政治格局，以至于潘美等部亦受影响，北汉再一次摆脱亡国之危。
如今，统一天下的重任落到了赵景身上。
公元978年，赵煚先后发了三道圣旨，因为宋朝势大，割据漳泉两府的陈洪进，割据两浙的吴越钱氏相继向宋廷纳土归降，而刘继元还是继承祖辈的祖训，誓死不向中原投降，所以才有了今日宋军与北汉军的再次对垒。
公元969年，因为北院大王耶律乌珍率令精骑自山林小道赶赴太原给了北汉军极大的底气，为了防止这一情况再次发生，所以赵景在战争之始便要求众将必须看看好北边的每一城、每一路、每一处山林河流。
如今宋军近二十万人赫然矗立在太原四面，当真是把整座城都围的水泄不通。
最后一次确认刘继元不愿投降后，随着战鼓声震震传起，宋军开始进攻。
一时间箭矢、巨石皆如雨下，昼夜不息，一个白天的功夫四面城门就被射的跟刺猬一样，城墙上断臂残肢随处可见，血腥味铺天盖地。
次日，听闻太原已经开战，耶律善补也怕回去后受罚，便遣数名部将各带一部尝试去渡河、夺关。
奈何关隘高险，通道狭窄，一次性仅能容纳近百人，完全无法形成有效的攻击。
滂沱河与之相反，河面宽广不假，但宋军已经在河对岸建好了土楼、壕沟，士兵可以趁辽军半渡射击，更不容提后面还有二十架投石机坐镇，在它们面前，辽军的小船、木桥一碰就碎。
尝试了三五个时辰，死了上千人，辽军无一人成功入关或者渡河。
见己方迟迟过不去，心急如焚的耶律哇哥请命率一军出击，若不是他爹拦着，这小子现在说不定已经嗝屁了……
开战第三日，太原西北墙角被攻破，宋军登顶太原城，不到片刻又被杀了回去。
第四日，太原东门被冲车撞开，刘继业以猛火油之法逼退入城辽军，又拆毁百姓房屋堵门。
第五日，在郭进率领下，宋军成功从西门进军，攻陷其护围羊马城，北汉宣徽使范超于围攻中投降。
第六、七日，宋军攻占太原东、西、南三方街道，马步军都指挥使郭万超等先后出降。
第八日，赵景入城，宋军进逼皇宫，北汉军紧闭各门，据不出战。
第九日，赵景收到曹彬等将军报，辽军数次进攻皆被击退，耶律善补似有拔营之举。
第十日，赵景再次送发招降令，刘继元困兽犹斗，再次拒绝。
下午，他们将军报直接转交给了刘继元，并表明其再不投降，自己将再次决汾水灌城。
外无援军，内无斗志，前枢密使马峯、宰相李恽为首的十七名大臣联名请奏刘继元开门献降。
当夜丑时，数万火把将残破的太原城照的通红发亮，人心惶惶之际，紧闭的皇宫城门发出沉闷的声音，身穿缟衣头戴纱帽的刘继业为首，文武官员二十三名，甲士三千七百余，出宫投降。
在袁继忠、党进二人接过国玺、印信、冕服冕冠、天子剑的那一刻，国祚二十八年，传帝四代的北汉，五代十国的最后一支割据势力宣告灭亡！