李世績雖處竇建德之營，爲竇建德鎮守黎陽，但心中卻無時無刻想要重新歸唐，不過又怕牽連了在竇建德身邊爲人質的老父李蓋，所以便和原宋州刺史、陽翟郡公郭孝恪商量。
郭孝恪道：“你我才歸降竇建德不久，此時無論做什麼事，都會受到猜忌，所以現在應當先立功，取得竇建德的信任，然後就可以謀劃歸唐之事了。”
李世績聽從了郭孝恪的勸告，不久後便帶兵出黎陽，襲擊了王世充的獲嘉縣，攻陷了城池，俘虜了許多人並繳獲很多東西，都通通獻給了竇建德，竇建德因此對李世績很好。
李世績又派人勸竇建德道：“曹、戴二州，戶口充實，孟海公佔據二州，與東都的鄭國貌合神離，如果發大軍進取二州，指日可待。得孟海公後，再率兵逼近徐州、兗州，黃河以南可不戰而定。”
竇建德認爲這意見很對，便準備親自領兵攻取河南，先派他的行臺曹旦等人率五萬兵馬渡過黃河，李世績帶三千兵馬與曹旦等人會合。
李世績的計劃，是待竇建德到河南之時，便偷襲他的營地，殺死竇建德，找回父親並且以竇建德的地盤迴歸唐朝，不過恰巧這時竇建德的妻子生產，所以李世績久等不到竇建德。
竇建德派到河南來行臺曹旦，是竇建德妻子的哥哥，在河南大肆掠奪騷擾，歸附的各路盜賊都憤憤不平。
盜賊首領魏郡人李文相，號李商胡，聚集五千多人，佔據着孟津中城歸降竇建德，但因曹旦的大肆侵擾，心中很是不岔，所以想要叛離竇建德。李商胡的母親霍氏，也善於騎馬射箭，自稱霍總管。
郭孝恪探知了李商胡的情況後，便建議李世績和李商胡結拜爲兄弟，以結盟共謀大事，李世績略一沉吟，便點頭同意了，即去孟津中城找李胡商結拜。
李世績之名，現在早已是傳遍了大河南北，不知曉他的人實在不多，所以李胡商得知李世績要與自己結拜後，頓時大喜過望，頗感榮幸，當即便叫人擺上香案，與李世績結拜了。
隨後李世績與李胡商一同入內室，拜見李商胡的母親霍氏，三人交談一會後，霍氏流着淚對李世績道：“竇氏現在喪失了道德信義，殘害孟津，我們怎麼能繼續侍奉他？”
李世績道：“母親不要擔心，不超過一個月，我們就可以殺了竇建德，一起歸順大唐了！”
霍氏對李世績的回答似乎不太滿意，“還要一個月？這是不是久了點，只怕到了那時，孟津都要成了一片焦土了。”
李世績道：“孟海公還答應與我們共同殺了竇建德這賊，不過他動員、佈置兵力，再到發動襲擊仍需一個月左右，時間雖久了一些，但到時我們三方一起行動的話，成功的機會就要大了許多。”
霍氏不置可否，等到李世績告辭走後，霍氏卻對李商胡說：“時間長了就會發生變化，何必要等到那孟海公來，不如速戰速決，先解決曹旦，吞併他的兵力，再北上對付竇建德。”
李商胡向來唯命霍氏之命是從，雖覺得李世績的計劃更爲妥當，但還是答應了霍氏的提議。
當晚，李商胡以舉辦晚宴的名義，召來曹旦手下的二十三位偏將，用酒把他們灌醉，然後全部殺死，隨後聚兵向曹旦大營發起進攻。
曹旦的別將高雅賢、阮君明等還在黃河北岸沒有過河，李商胡用四艘大船運高雅賢、阮君明等的三百士兵過河，船到河中心，將三百人全部殺光，想以此計策將高雅賢、阮君明等人的部衆全部殺光，不過在這時，有一位在軍中治馬的獸醫卻極善水上功夫，所以得以潛水逃脫了。
獸醫一直游到了南岸，將事情報告了曹旦，曹旦因此嚴加警戒，以爲防備。
李商胡殺曹旦二十三位偏將起事後，才慢悠悠的派人去通知了李世績，李世績大爲懊悔的嘆道：“豎子不足與謀！”
李世績的營地與曹旦相接，郭孝恪勸李世績襲擊曹旦，李世績聽說曹旦已有防備，所以猶豫不決，親自前去曹旦營寨外窺察半響，發現曹旦的營寨果然已是防備森嚴，毫無可乘之機。
郭孝恪向李世績道：“李商胡必不能成事，事敗之後，只怕要供出我們來，到時我們就死無葬身之地了，不如現在便趁亂投唐爲上！”
李世績決然的搖了搖頭，“我父還在竇建德手上……”
郭孝恪道：“將軍放心，竇建德向來標榜自己爲仁義之君，定不會做出殺害無辜這種事，以自毀形象的。”
李世績聽後，這才變得動搖了。
郭孝恪急忙道：“當斷不斷，反受其亂，若是不早做決定，將來你我人頭落地之時，你父舒國公知道了今天之事的話，只怕也會大罵你迂腐了！”
李世績這才咬了咬牙，狠下心來答應了，和郭孝恪率數十騎兵離開營寨，西行至黃河渡口，坐船逆水而上，投奔大唐去了。
李商胡見消息敗露後，便挑選了二千精兵，向北襲擊阮君明、高雅賢所部，並將他們打敗，不過高雅賢邊敗走時，還不斷的收拾部衆，漸漸再聚集了不少人，李商胡繼續追擊後，卻沒有追趕上，從而只得回軍孟津，曹旦的大軍卻也不敢去攻打了。
李世績和郭孝恪逃往大唐的消息傳到竇建德現在的王都洺州永年縣的時候，竇建德的諸位大臣都齊至皇宮萬春宮，請求竇建德殺掉李世績的父親李蓋。
竇建德沉思了許久，搖頭道：“世績是唐臣，被我俘虜，仍不忘唐朝，這是忠臣，他父親有什麼罪？”於是竇建德下令赦免了李蓋。
之後，竇建德親自率兵數萬攻打叛臣李商胡，李商胡兵力僅數千人，根本抵抗不了多久，便城破人滅了，李商胡死前，十分後悔沒聽李世績的建議。
竇建德重回洺州後，考查、鼓勵耕織，所轄地區沒有盜賊，商賈行人露宿，國力、軍力都慢慢變得愈發的雄厚了。