宋太祖还没有来得及完成统一大业，就死去了。他的弟弟赵匡义继位做皇帝，这就是宋太宗。
宋太宗决心平定北方。公元979年，他带领大军，攻打北汉。宋军把北汉的京城太原团团围困，猛攻猛打。北汉向辽国求救，辽国派兵前来援助，被宋军打得大败。北汉无力抵抗，只好投降。
宋太宗平定北汉以后，北汉有个有名的老将，叫杨业，也归附了宋朝。杨业就是传说中的杨老令公。他从小爱好骑马射箭，学了一身武艺。因为他武艺高强，英勇善战，人们称他“杨无敌”。宋太宗对杨业相当器重，起初让他担任郑州刺史，后来又让他担任代州(今山西代县)刺史，镇守北方边境。
公元980年3月，辽国出动十万大军，侵犯代州北面的雁门关。警报传到代州，杨业手下只有几千骑兵，力量相差太远，大家都很担心。杨业决定出奇制胜，带领几百骑兵，从小路绕到雁门关北面，在敌人背后进行攻击。辽军正大摇大摆向南进军，不料一声呐喊，宋军从背后杀了出来。辽军大惊，不知道宋军有多少人马，吓得四散逃奔。这一仗，辽国的一个驸马被杀死，还有一个大将被活捉。杨业以少胜多，打了一个大胜仗。宋太宗非常高兴，特地给杨业升了官。从此，“杨无敌”的威望越来越高了。
杨业立了大功以后，一些大官僚非常妒忌。他们恐怕杨业的声望和地位超过自己，就设法排挤陷害他。防守边境的主将潘美，还上疏说杨业的坏话。但宋太宗不听这些坏话。他把这些奏疏封起来，送给杨业，表示对杨业的信任。那些大官僚的陷害，暂时算是搁下来了。
过了几年，辽景宗耶律贤病死，他的儿子辽圣宗耶律隆绪继位。辽圣宗年仅十二岁，由他的母亲萧太后执政。宋太宗见辽国政局发生变动，认为机会来了，决计出兵收复辽国占领的燕云十六州。
公元986年，宋太宗派三支大军攻辽。东路由大将曹彬带领主力部队，向幽州前进;中路由田重进率领，攻取河北西北部等地;西路由潘美率领，攻取山西北部各地。杨业就在西路军中，做潘美的副将。
潘美带领的西路军，出了雁门关，就向北进攻。杨业和他的部下英勇善战，很快打下了寰州(今山西朔州东)、朔州(今山西朔州)、应州(今山西应州)和云州，收复了山西西北部的大片失地。
正当西路军节节胜利的时候，不料东路军吃了一个大败仗。宋太宗因主力部队失败，不敢再战，连忙下令退兵。潘美、杨业很快退回代州。
宋朝的大军一退，应州的宋军也丢掉城市逃跑了，辽军乘胜打进了寰州，一时形势十分紧张。
就在这时候，宋朝政府下令把寰、朔、应、云四州的老百姓迁往内地，要潘美、杨业的部队担任护送。但这时寰州和应州已经丢了，云州远在辽军的背后，朔州也在辽军的身旁，要迁移那些地方的老百姓，可着实不容易。
杨业考虑了一番，提出建议说：“现在敌人很强大，应当暂时避开他们的锋芒，不能硬打。我们应先假装打应州，引诱敌人大军前来迎战，然后利用这个机会，命应、朔两州的守将带领百姓赶快南迁。这时，我们只要派军队在中途接应，这两州的百姓就可以安全转移了。”
这是一个好主意。可是，在潘美军中做监军的王侁却不同意。他说：“我们有几万精兵，为什么这样胆小?只要走雁门关北面的大路，向朔州前进就是了。”
杨业说：“这样做，一定失败!”
王侁不但不考虑杨业的正确意见，反而讽刺他说：“将军一向号称杨无敌，如今看到敌军，竟逗留不进，难道有其他想法吗?”
对于这样恶毒的诬蔑，杨业气愤极了。他横下心来，说：“我并不怕死，只因时机不利，不想让士兵白白送死。你既然说出这种话来，我领兵前去就是了。”
杨业和王侁争论时，潘美就在旁边。他明知杨业这次出兵，凶多吉少，可是他一向妒忌杨业的才能，所以一言不发，让杨业去了。
杨业出发时，对潘美说：“这次出兵，一定不利。我本想等待时机，为国杀敌立功，如今有人责难我畏敌不前，我愿意先死在敌人手里。”同时，他又说：“你们在陈家谷准备好步兵弓箭，接应我们。否则，军队就回不来了。”
说完，杨业就带领人马，直奔朔州前线。随同前往的，还有他的儿子杨延玉和岳州(治所在今湖南岳阳)刺史王贵。
辽军看到杨业前来，就出动大军，把宋军团团围住。杨业父子和他们的部下虽然英勇善战，毕竟寡不敌众。他们从正午一直打到黄昏，只剩下一百多人，好不容易突出重围，且战且走，退到陈家谷。哪知潘美的军队不顾杨业的安危，早已逃跑了。
杨业只好带领部下，再跟辽军死战。王贵用箭射死了几十个敌人，箭完了，又用弓打死了几个敌人，才壮烈牺牲。杨延玉和其他将士也在战争中牺牲了。
杨业受了十几处伤，还继续苦斗，杀死了几十个敌兵。他因为伤势太重，加上战马重伤，实在走不动了，就到树林中去躲一躲，不幸被敌人射倒，抓去了。他被俘以后，坚贞不屈，绝食而死。
杨业有七个儿子，除杨延玉牺牲外，最著名的要数杨延朗。杨延朗后来改名杨延昭。他镇守边关二十多年，曾多次打败辽军的侵扰。杨延昭的儿子杨文广，也是一个将军，曾在西北和河北一带镇守边境。
杨家将祖孙三代英勇抗辽，为保卫宋王朝作出了贡献。人们非常怀念和敬重这些英雄，后来在传说、戏曲和小说中，添枝加叶，增加了许多事迹，还塑造了历史上没有的杨门女将。传说杨业的妻子佘(shé)太君是一个很了不起的人物。根据历史记载，杨业的妻子姓折，她的祖父和父亲都跟辽军打过仗。可能因为“佘”和“折”读音相似，所以被人们误传为佘太君了。至于穆桂英等人，正式的史书上可就找不到记载了。
