第二年的九月，朝廷任命杨忠担任元帅，统帅大将军杨纂、李穆、王杰、尔朱敏、开府元寿、田弘、慕容延等十余人率领步兵、骑兵一万人，与突厥从北路出发讨伐北齐。
朝廷同时命令达奚武率领步兵、骑兵三万人从平阳南路出发，约好时间在晋阳会合。
十二月，杨忠留下尔朱敏据守什贲，派兵在黄河边巡逻。他自己则从武川出兵，经过自家从前的住宅时，祭祀祖先，大宴将士，然后迅速攻占北齐二十多座城池。
齐军防守陉岭的山口，杨忠出奇兵奋勇进击，大败齐军。同时留下杨纂屯守在灵丘，准备阻击从后面来的救兵。突厥的木杆可汗、地头可汗、步离可汗率领十万骑兵前来会合。
公元564年正月初一日，进攻晋阳。
当时大雪连下几十天，寒风劲烈，齐军便全部出动精锐部队，呐喊地冲出城来。
突厥骑兵震惊，带着兵马退向西山，不肯与齐军交战，众人都惊恐不安神色大变。
杨忠命令部下说：“成事在天，不必考虑人数多少。”说完，率领七百人和敌军展开步战，阵亡的十分之四五。
杨忠是不轻易放弃的人，打算继续与敌厮杀，可是达奚武误期不至，没有援兵，杨忠只得撤军。
齐军也不敢进逼。
突厥趁机放纵兵士大肆抢掠，从晋阳直到平城，沿途七百余里，人畜掳掠一空，俘虏杀死很多。
北周武帝宇文邕派使者到夏州迎接慰劳杨忠。
杨忠到京师后，宇文邕在宴会上对他大加赏赐，准备任命杨忠为太傅。
晋公宇文护由于杨忠不肯依附自己，从中作梗，于是授任杨忠为泾州刺史。
八月，杨忠会同突厥讨伐北齐，兵到北河后便返回。
十二月，北周东征北齐，宇文护出兵洛阳，命令杨忠从沃野出兵，接应突厥，由于军粮短缺，军中担忧，想不出办法。
杨忠说：“应当想出办法来解决。”
于是，他派人把稽胡众首领都骗来，让他们都坐在一起，让河州刺史王杰统率士兵敲着战鼓赶到这里，然后杨忠故意装出吃惊的样子，问王杰要干什么。
王杰回答说：“大冢宰已经攻下洛阳，天子听说银州、夏州之间胡人骚乱，所以派我来除掉他们。”接着，让突厥的使者骑马前来报告说：“可汗已经进入并州，留下兵马十万人在长城下待命，因此命令我来向您请求，如果有稽胡人不肯归顺，就来这里一起打败他们。”
那些在座的稽胡众首领听了，都很害怕。
杨忠便趁机安慰他们一番，并讲明道理，然后放他们回去。
稽胡各部落遂相继归顺，送来各种粮草，塞满道路，北周军粮更是充足。
杨忠想继续进攻北齐，可是，宇文护率先退军，杨忠只得罢兵返回镇所。
此次进攻北齐，杨忠因政绩突出，宇文邕下诏赏赐钱三十万、布五百匹、谷子二千斛。
杨忠要不是宇文护的退兵的话，说不定他就平定了北齐，建立不世的功绩，成为名将。可惜的是，老天没有给他这个机会。所以，他在历史上，虽然是厉害的将领，但还不是名将，因为，他没有突出的功绩。
老天也没有给他机会了，在公元568年，杨忠得病，只得回京。
宇文邕与宇文护曾多次亲临看望，宇文邕希望杨忠病情好转，可惜，杨忠病情加重，在同年七月初七日去世，享年六十二岁。其子杨坚承袭封爵，后来登基称帝，建立隋朝，追谥杨忠为武元皇帝，庙号太祖。
杨忠，虽然没有成为名将，但是，他儿子建立国家，自己也成为了武元皇帝，此生，可谓不虚！
没有杨忠的一生奋斗，立下赫赫战功，被封为隋国公，就没有后来杨坚建立隋朝的机会！