竇建德麾下有個猛將，此人名叫劉黑闥。根據《舊唐書》記載，劉黑闥年輕的時候，像無賴一樣狡詐蠻橫，他喜歡飲酒作樂卻不願意工作掙錢。因此，過得非常狼狽，經常缺衣少食。好在同鄉竇建德為人仗義，經常拿財物來資助他。後來，劉黑闥因為時局動盪，投奔郝孝德成了一個反隋義軍。過了一段時間，劉黑闥又歸順到瓦崗李密的手下，做了一個偏將。李密敗亡後歸順唐朝，劉黑闥則被王世充抓獲成了俘虜。

王世充知道劉黑闥是一個很勇猛的人，因此非但沒有難為他，反而將其任命為騎將，讓他負責守衛新鄉。可惜，劉黑闥卻並不領情，他很看不起王世充這樣的人，不願意在他手下效力。不久之後，他帶人逃回河北，投奔自己的好友竇建德。在那個戰亂不斷的年代，一個英勇善戰的將領，可以發揮巨大作用。竇建德因好友劉黑闥的投奔非常欣喜，直接將他任命為將軍，封他做了東郡公。

竇建德跟劉黑闥知根知底，對他非常放心，每次有計劃都會讓他參與。劉黑闥也對竇建德非常忠心，經常帶著手下士兵東奔西走，為竇建德驅逐敵人贏得勝利。因為戰功卓越，有人甚至將劉黑闥稱為“神勇將軍”。可惜的是，竇建德並沒有成為最終的贏家，他後來帶兵援救鄭國王世充，因為不聽勸告一意孤行，成了李世民等人手下敗將。與此同時，竇建德建立的夏政權徹底消亡，其手下要麼投降唐朝，要麼隱匿起來不敢露面。

劉黑闥在竇建德敗亡後，逃回了漳南縣老家，一直躲在家裡種菜自給自足，不敢輕易出門。公元621年7月，唐高祖李淵下令處死竇建德，然後又下令強徵竇建德舊將範願、董康買等人來長安。李淵這樣的行為，讓範願等人又是傷心，又是憤怒，他們不願意歸順唐朝，於是決定聯合起來起兵反唐。他們透過占卜得知，應該尊奉一個姓劉的人，才能成就大事。經過幾次波折，範願等人最終找到了劉黑闥。

範願等人說明來意後，劉黑闥大喜立刻殺牛會眾，準備起兵反唐為主報仇報雪恨。不久之後，劉黑闥等人攻佔漳南縣城，有了立足之地。公元621年8月11日。劉黑闥帶人設壇，公開祭奠竇建德，然後以大將軍的身份領兵作戰。同年9月13日，劉黑闥帶人攻佔歷亭，殺死屯衛將軍王行敏。竇建德曾經的部下，得知此事後紛紛響應，殺死了很多唐朝冊封的官吏。9月17日，深州人崔元遜將刺史裴晞殺害，然後也投奔到了劉黑闥手下。

劉黑闥等人叛亂行為，很快就引來了朝廷的鎮壓。劉黑闥等人毫不畏懼，非但沒有被唐朝的官兵鎮壓，反而還擊敗了淮安王李神通。10月26日，劉黑闥等人攻佔瀛州，將刺史盧士睿抓獲。公元622年1月6日，劉黑闥在攻佔定州的時候，又殺死了總管李玄通。2月1日，朝廷派遣李世民帶兵鎮壓劉黑闥，可惜也沒有阻止他的腳步。劉黑闥等人起兵反唐後，接連殺死唐朝數員大將，只用了短短半年時間，就收復了竇建德曾經的地盤。

公元23年1月24日，劉黑闥攻打魏州，跟唐朝太子李建成對峙。雙方交戰後，李建成帶人接連取得勝利，於1月31日將劉黑闥等人打得大敗。此後，劉黑闥被迫逃往毛州，整頓軍隊後又跟李建成等人發生了一次慘烈戰鬥。期間，劉黑闥手下被砍殺了幾千人，再一次敗亡逃跑。最終，李建成在洺州將劉黑闥等人處死，徹底平定了山東地區。劉黑闥的死，也從側面證明了李建成的領兵能力。