李存孝從絳州回師來到晉州後，與部衆商量道："張濬宰相，俘之無益；天子禁兵，不宜加害。"於是李存孝向城上喊道：“吾父有所囑咐，不得對當朝宰相無禮，亦不得對天子禁兵妄加殺害。張公若退出此城，我們絕不敢相逼！”言畢，李存孝退後五十里而結營。
失了絳州，晉州更加孤立無援。張濬知自己再無半點勝望，見李存孝給自己個臺階下，便順勢灰溜溜的帶軍出城，從含口遁去。李存孝心說道：“也不能太便宜了他們。”親自帶騎兵追趕，但卻始終與其保持數裡距離，不過分逼迫。饒是如此，那些禁軍與汴軍也都被嚇得丟了魂似的，沒命奔逃。張濬怕自己會向孫揆一樣受辱，更是瘋狂逃跑。他們逾越了王屋山到達河陽後，竟狂拆平民的屋舍用來造筏渡河，這一路兵力損失殆盡。
張濬敗信傳到長安時，唐昭宗李曄纔剛剛讓人讀完韓歸範帶來的李克用所上之書。張濬敗得如此之快，衆臣都是始料不及，舉朝震恐。李曄也是驚得龍顏失色。
在李存孝擒孫揆、韓歸範送給李克用後，李克用當即就遣韓歸範歸朝，並使其帶上自己爲皇帝寫的書表，語辭中流露出怨憤之情："臣父子三代，受恩四朝，破龐勳，翦黃巢，黜襄王，存易定，致陛下今日冠通天之冠，佩白玉之璽，未必非臣之力也。朝廷當危難之時，則譽臣爲伊尹、呂尚；及既安之後，則罵臣爲戎、羯、胡、夷。今天下握兵立功之人，獨不懼陛下它日之罵乎！況臣果有大罪，六師徵之，自有典刑，何必倖臣之弱而後取之邪！今張濬既出師，則固難束手，臣已集蕃、漢兵數十萬，欲直抵蒲、潼，與濬格鬥；若其不勝，甘從削奪。不然，臣將輕騎叩閽，頓首丹陛，訴奸回於陛下之御座，納制敕於先帝之廟庭，然後自縛有司，恭侯斧鑕。”
李曄深覺後悔，這次討伐本就非出己意，也不算師出有名。受張濬、朱溫一再煽惑，才決計出師。各藩鎮的表現又極其讓他失望。尤其朱溫，朝廷最是倚之爲重。沒想到朱溫很快就失了潞州，之後又去忙於攻並徐州、鄆州而將大軍撤出，僅出數千兵力跟隨張濬。
此役大兵未交而孫揆被擒，幽州、雲州俱敗，張濬軍望風自潰。敗得如此之慘，就像被人狠狠打了一臉，真是徒自取辱。李克用又要單騎進京面聖，到時將情何以堪啊！不得已，李曄優詔答覆李克用，恢復李克用官職並加中書令！李曄對張濬當然是極其惱怒，將其貶爲繡州司戶，一方面也爲了平慰李克用。張濬不敢前去就職，而是跑到了華州依附韓建。
河東與宣武併爲強藩，李曄仍想和解兩方。不料李克用的回覆斬釘截鐵：“陛下袒護朱溫，臣不敢對陛下有絲毫怨言。然臣恩怨分明，人不犯我，我不犯人。那朱溫屢屢欲置臣於死地，我絕不會坐以待斃。望陛下能體諒臣之苦衷。”
河東一吼，天下大震。李克用此次大滅朝廷與各藩鎮的威風，傲視羣雄，強立於河東，更加堅定了自己吞滅仇讎之志。他大置酒宴，犒賞衆將士。酒席上，諸將領紛紛陳說己功，互相誇讚。唯有李存孝與李嗣源沉默不語。李存孝極其看不慣李存信那副自賣自誇的嘴臉，想起這個青蠅之輩總在他與義父中間作梗，心中很是不快。這回李存孝擒孫揆、復潞州、破韓建、敗張濬、奪晉絳，威震華夏。功勞之大，河東諸將皆莫能比，都心存嫉妒。李存孝性情穩重，無論平時與宴會都不愛與人多說話，也頗爲諸將所畏。對酒無所嗜愛的他，只在衆將大會時才喝，酒量甚大，飲至數鬥都不曾醉過。這會兒他獨自一人喝悶酒，自然沒人敢來找他說話。
看到李嗣源也不發一言，有將領來問他何不陳說功勞。李嗣源看了李存孝一眼說道“功大者何需多言。至於我，沒甚本事，只知用手擊賊而已。我認爲這嘴，還是用來喝酒吃肉的好。”這話一出，讓諸將都慚愧不已。李嗣源不貪名、不邀功，從這之後，李克用對其更加器重，時常在衆將領面前誇讚他，將其比爲東漢的大樹將軍馮異。
在李克用準備先攻滅赫連鐸時，在他的管轄之境竟然出現了一起叛變。先前李克用使其妹夫安金俊做了邢洺節度使後，安金俊不幸在後來的攻城戰中流矢而死。由於安金俊無子，李克用就讓安金俊從他哥哥那裡過繼來的侄子安知建做了邢洺節度使。卻不料安知建被朱溫手下賄賂引誘，潛通於朱溫。李克用得知後大怒，立即派李存孝帶軍前往代替之。李存孝要來，安知建嚇破了膽。他不敢繼續待在邢州，急忙帶領麾下三千兵力棄城前去投奔朱溫。在經過鄆州境時，鄆州節度使朱瑄得到此消息，高興道：“可以一報河東救援之恩了。”他派兵士在河上設伏以待，安知建遇伏後被斬首，其麾下三千人或死或俘。朱瑄將安知建的頭顱以及俘兵全部送往晉陽，呈給李克用。之後李克用讓李存孝做了邢洺節度使，心想這下足以賞李存孝之戰功了！
891年四月，李克用親帥大軍北攻赫連鐸。他令李存信、李嗣源帶領前軍與敵對陣，自己與李存璋、李嗣昭在河上設伏。軍陣既交，李克用伏兵突出，鐵鴉軍如同無數朵烏雲般黑壓壓的涌來，空中瀰漫着一股死亡的恐怖氣息，使得敵軍無不膽寒。赫連鐸軍隊敗得極其之慘，死傷無數。赫連鐸只得狼狽退軍回城。李克用於是繼續前進，將雲州包圍。攻圍百餘日後，李克用得知城內糧盡，便督軍急攻。赫連鐸便連夜逃出城，投奔振武節度使白義誠。