于是，窦建德招集引诱逃避征兵和没有家产的人，得到了几百人，让孙安祖带领，进高鸡泊当草寇，孙安祖自称将军。
张金称也邀集了上百人，在黄河的险要水域活动；高士达又兴兵造反招集了一千多人，在清河郡一带活动。
当时往来于漳南县境的各股盗匪，沿路屠杀抢劫当地百姓，焚烧房屋，惟独不到窦建德的家乡骚扰。
郡里县里因此料定窦建德跟盗匪们相互勾结，就拘捕了他的家属，不论老少都杀掉了。
窦建德听到他全家已被杀光，顿时没了报国之心，率领他手下的两百人逃跑，前去投靠了高士达。
高士达自称东海公，任命窦建德为司兵。
后来，孙安祖被张金称杀掉，他的几千名士卒又全部投奔窦建德。
窦建德从此逐渐壮大，队伍发展到一万多人，在高鸡泊一带活动。
他与孙安祖不一样的是，他往往拿出身上的所有财物接济别人，跟士卒一样吃苦耐劳，因此更得人心。
大业十二年，涿州通守郭绚率领一万多人马到高鸡泊讨伐高士达。
高士达自己知道智慧谋略不如窦建德，就提升他为军司马，把军权全部交给了他。
窦建德初次统领兵众，想建立奇功来显示自己的威严，请高士达守卫军用物资，自己精选强兵七千人抵御郭绚，假装跟高士达闹矛盾而叛离他。
高士达又宣扬说窦建德叛逃，还拉出一名俘虏来的女人诈说成窦建德的妻子，当着留守部队的面杀掉。
窦建德装假派人送信给郭绚请求投降，愿意当先头部队，打败高士达来为自己报仇。
郭绚相信了，就带领军队跟随窦建德来到长河边界，准备跟他订立盟约，共同设法干掉高士达。
郭绚的军队松懈而不做防备，窦建德突然攻打他们，从而大败郭绚，杀死俘获几千人，得到战马一千多匹，郭绚带着几十个人悄悄逃走，派遣部将一直追赶到平原县，斩下他的首级进献给高士达。
自此。窦建德的权势更加提高。
隋朝廷派太仆卿杨义臣率领一万多人讨伐张金称，在清河打败了他，抓到张金称的士卒都杀掉了，逃散在湖沼中的残兵又集合起来投奔窦建德。
杨义臣乘胜进军来到平原县，准备打进高鸡泊里。
窦建德对高士达说：“数遍隋朝的所有将领，会打仗的只有杨义臣。刚刚打败张金称，长途跋涉进攻我们，他们的锐气是不可抵挡的，请让我带着军队避开他们，使他们想打又打不到，白白地拖他几个月，等他的将士们疲劳厌倦了，乘机打他个猝不及防，可以夺取大的胜利。如果眼下跟他争高低，只怕您抵挡不住。”
高士达不听他的意见，便留下窦建德守卫大本营，自己率领精兵迎战杨义臣，初战取得小小的胜利，就纵情喝酒大摆筵席，产生了轻敌思想。
窦建德得知后说：“东海公还没有打败敌人就自高自大，灾祸过不几天就会来了。隋朝的军队乘胜追击，必然径直打到这里，人心震惊恐惧，我怕守不住了。”于是，留下人马守卫军营，自己带领精兵强将一百多人占据险要位置，以防高士达吃败仗。
过了五天，杨义臣果然大败高士达，在战场上斩杀了他，然后乘胜追击，就要围攻窦建德。
军营的守兵本来就少，听说高士达已被打败，大家都四散逃跑了。
窦建德带着一百多人逃走，到了饶阳县，见没有防备，就攻打了下来，安抚城里的士民百姓，很多人愿意跟随他，又有了三千多人马。