咸豐三年八月，曾國藩帶着受傷的自尊心到達衡陽，開始赤手空拳創立湘軍。
確實是赤手空拳。
剛到衡陽，曾國藩面臨着五無：
一是無辦公場所。
二是沒有名正言順的職權。開始他想掛上“統轄湖南湘軍總營務局”的牌子，寫好之後，又感到不妥：正是他過分張揚的言行使他與湖南官場呈現緊張狀態，這個牌子一掛出去，必然會引來湖南官場的再次攻擊。因爲諭旨中明確寫明他的權力是“幫辦”，而不是“統轄”。想了想只好把牌子摘了下來。
三是沒有經驗。軍事是高度專業化的，進士出身的曾國藩沒有當過一天兵，對於行軍佈陣，帶兵訓練，沒有一點實際經驗。如何招兵，如何籌餉，如何採購武器，如何編營，如何訓練，如何制定營規，如何選擇軍官，如何設定軍餉標準，如何排兵，如何佈陣……太多環節要從頭學起。
四是沒有朋友前來幫忙。長沙之辱使曾國藩臉面喪盡，人心離散。不但通省官員們不齒於他，甚至他的那些好友郭嵩燾、郭燾、劉蓉、左宗棠，也都認爲他行事魯莽，難以成功，竟沒有一人願意前來幫他。
當然，這些都不算真正的困難，真正的困難是第五條：無制度保障。
文人練兵，這在大清史上是頭一遭兒。湘軍從出生這一天起，在舊體制內就沒有安身之處。它就像一個私生子一樣，不但被八旗綠營排斥，甚至也不被大清朝廷和官僚體系所接納。它的最大敵人，不是太平軍，而是舊體制。這種體制上的矛盾，最突出的表現就是沒有軍餉來源。
按理說，皇帝交給曾國藩的任務是練兵，軍費自然應該由國家供給。問題是，當時國家財政收入用來供給綠營軍餉尚且不足，不可能爲他專撥經費。湖南省官員既與他關係緊張，自然也不可能爲他慷慨解囊。畢竟，練兵這個任務，是曾國藩自找多事，並非國家或者湖南省政府的計劃。曾國藩身爲不倫不類的“幫辦大臣”，沒有財政權和稅收權，根本不可能開闢固定餉源。
然而對於一支建設中的軍隊來說，錢太重要了。錢就是空氣，錢就是生命，錢就是潤滑劑。沒有錢，大至招兵買馬，採購武器；小至辦公經費，日常吃喝拉撒，哪一步也推不動。曾國藩說，“籌餉更難於督兵”，“大抵軍政，吏治，非財用充足，竟無下手之處”。
六
可以說，如果沒有長沙之辱的刺激，曾國藩不可能克服這五難，開創湘軍。長沙之辱如同一根針紮在心裡，讓他時刻難以自安，終於苦苦支撐，慘淡經營，斬關奪隘，排除萬難。
沒有辦公場所，他就借住在一戶祠堂裡。
沒有名位，他只好照舊用長沙時用過的“湖南審案局”五個字，來接送公文。
沒有經驗，曾國藩就自己在黑暗中探索。他精心果力，認真思考綠營兵種種弊端之原因，創造了許多嶄新的軍事原則，比如招兵不用城市浮滑之人，只選樸實山農。比如“將必親選，兵必自募”，比如實行厚餉和長夫制度。這些創新，都是軍事門外漢曾國藩殫精竭慮集思廣益的結果。事實證明，曾國藩的思路是非常高明的，湘軍日後的成功正是基於這些制度基礎。
制定軍事原則難，具體的籌備工作更難，曾國藩步步都需要摸索，不斷失敗，不斷犯錯。我們不談陸軍，先來看看曾國藩是如何創建水師的。
有水師就要有戰船，曾國藩找來湖南全省的能工巧匠，居然沒有一個人知道怎麼造戰船。
曾國藩開始想造木排禦敵。他異想天開地認爲，“蓋船高而排低，槍炮則利於仰攻，不利於俯攻。又大船笨重不能行，小船晃動不能戰。排雖輕，免於笨，尤免於晃”。然而事實證明這不過是紙上談兵，造好木排一經試驗，發現木排順流尚可，逆水行排則極爲遲笨，且“排身短小，不利江湖”。以之當敵，不啻兒戲，於是改弦更張，一心造船。
既然無人會造，曾國藩就自己設計。湖南湖北賽龍舟風氣很盛，於是他命人以龍舟爲制，造了一批“曾氏戰船”。曾國藩自己說：
餘初造戰船，辦水師。楚中不知戰船爲何物，工匠亦無能爲役。因思兩湖舊俗，五日龍舟競渡，最爲迅捷。短橈長槳，如鳥之飛。此人力可以爲主者，不盡關乎風力水力也。遂決計仿競渡之舟，以爲戰船。
然而一試驗，“曾氏戰船”容易傾覆，根本打不了仗。費盡周折，曾國藩終於找到了明白人。從長沙前來的守備成名標向曾國藩介紹了廣東快蟹船和舢板船的大概樣子，又過幾天，同知褚汝航從桂林前來，向曾國藩介紹了長龍船的造法。於是曾國藩大僱衡州、永州的能工巧匠，在湘潭設立兩個船廠，大量製造快蟹、長龍、舢板戰船。“兩廠之船，往來比較，互相質證。”兩位軍官本身並非工匠，他們只介紹了外地船艦的大體模樣，至於船的具體結構尺寸，乃至每一個部件，他都要和有經驗的工匠反覆設計，不斷試驗，史載曾國藩“創建舟師，凡槍炮刀錨之模式，帆檣槳櫓之位置，無不躬自演試，殫竭思力，不憚再三更制以極其精”。字字不虛。經過反覆試驗，終於建成十營水師。曾國藩建軍，確實篳路藍縷。
七
然而比起籌餉來，以上這些都算不上艱苦了。
關於軍餉，曾國藩想來想去，只想出了一個辦法：勸捐。也就是說，勸那些大戶捐款，回報是由國家授予他們一些榮譽性的虛職。他在衡陽設立勸捐總局，派人四處勸捐籌餉。
然而，曾國藩本身非官非紳，權力不明，收據由曾國藩自己刊印，信用不高。從咸豐三年八月到咸豐四年底，總局費盡口舌，一共才弄到一萬九千多兩銀子，根本無濟於事。勸而不動，他只好強行勒派。巨紳們如果拒不捐款，他就派兵動用拘押手段。結果得錢不多，招怨不少。曾國藩因此嘆息：“勸捐之難，難於登天，費盡心力，迄無一獲。”
甚至因爲勸捐，他還得罪了皇帝。原來已故湖北巡撫楊健之孫楊江，急公好義，主動捐輸軍餉兩萬兩銀子，解了曾國藩的燃眉之急。曾國藩感動之下，想把他樹爲表率，帶動捐輸事業，於是上疏請旨，請朝廷批准將楊健列入祀鄉賢祠。
楊健生前爲官平平，且受過處分，其官聲、治績均不足以入祀鄉賢祠。不過兵務緊急，同意他這個請求也算不上什麼大事。不想精於小事忽於大計的皇帝根本體諒不到曾國藩的難處，恪守“名位不能輕易予人”的教條，大發雷霆，將曾國藩痛罵一頓，說他“所奏荒謬之至”，並且說“（曾國藩）實屬袒護同鄉，以私廢公，顯背聖旨，可惡已極……着交部議處”。
而京官們部議的結果竟提出給以革職的處分。好在皇帝尚未失去理智，知道曾國藩這樣的人缺不得，於是將處分改爲降二級調用，使曾國藩由二品京堂降到了三品。
八
重重困難之中，曾國藩不止一次想打退堂鼓。但一想起長沙之辱，他便又鼓起了全部鬥志。
吃盡了千辛萬苦，曾國藩終於練成了一支一萬七千人的隊伍。咸豐四年四月湘潭之戰中，湘軍水陸不足萬人，與三萬之衆的太平軍作殊死戰，十戰十捷，以少勝多，殲滅太平軍萬餘人。這是太平軍興起以來清軍取得的唯一一次重大勝利。
接到戰報，咸豐皇帝大喜過望。自從鎮壓太平軍以來，他所接到的都是兵敗如山倒的失敗報告，這樣重大的捷報還是頭一次。皇帝發出一系列上諭，嘉獎湘軍，還特命曾國藩單銜奏事，湖南省文武百官，除巡撫一人之外，曾國藩皆有權調遣。這道上諭從根本上轉變了曾國藩在湖南的政治地位。上諭先發至巡撫衙門，駱秉章接旨後，立即帶着藩、臬兩司等一班官員，擁着一擡綠呢空轎，親自來接一直住在城外船上的曾國藩入城。罵他最兇的布政使徐有壬當晚單獨拜會曾國藩，懇切檢討過去的態度。曾國藩的仇人鮑起豹則被皇帝下旨嚴責，革職拿辦。
曾國藩的打掉牙和血吞，終於取得了勝利。他用自己的艱苦奮鬥，成功地挽回了面子。
可以說，沒有長沙之辱，就沒有曾國藩後半生的功名事業。這一次挫而後奮的成功，給了曾國藩一次印象極深的自我教育，更強化了他愈挫愈奮、百折不撓的性格特點。從這次經驗中，曾國藩領悟到，對於有志者來說，挫辱是最大的動力，打擊是最好的幫助。咬緊牙關，把挫辱活生生吞下，就成了滋養自己意志和決心的營養。這構成了曾國藩生命經驗中最核心的部分。幾十年後，他還在家書中教育兒子說：“天下事無所爲而成者極少，有所爲有所利而成者居半，有所激有所逼而成者居半。”“百端拂逆之時”，“只有逆來順受之法”，“所謂好漢打脫牙和血吞，真處逆境之良法也”。
江西的困頓與“大悔大悟”
一
湘軍的意外崛起，使昏慘慘黃泉路近的大清王朝又看到了起死回生的希望。一時間，朝廷褒獎，紳民歡呼，曾國藩成了滔滔天下的中流砥柱。
按理說，此時的曾國藩應該會呼風喚雨、八面逢源了吧？不是。曾國藩的日子仍不好過。因爲體制仍然不順，餉項仍須自籌。咸豐四年四月十四日，湘潭大勝之後僅僅九天，他在長沙給弟弟們所寫信中沮喪地說：
餉項已空，無從設法，艱難之狀，不知所終。人心之壞，又處處使人寒心。吾惟盡一分心作一日事，至於成敗，則不能復計較矣……餘近來因肝氣太燥，動與人多所不合，所以辦事多不能成。
也就是說，湘軍籌餉上的困難一如既往。曾國藩仍然經常和他人發生衝突，以致肝氣上升，時常處於焦灼憤懣之中。
問題的焦點在於曾國藩沒有實權。大清王朝各省的實權掌握在總督和巡撫們的手中，他們是全省官僚系統的絕對主人。下級官員的身家性命掌握在他們手中，對他們唯命是從。
曾國藩與督撫們雖然同一級別，在地方官員眼裡卻被視若無物。因爲出山之後，皇帝給曾國藩的只是虛銜，既沒有提拔下屬的權力，又很難左右地方官的命運。軍事離不開民事，招兵、選將、購置武器，“處處與地方官相交涉”，而地方官卻往往不予配合。
曾國藩需要實權，這一點皇帝心裡很明白。然而，目光短淺的咸豐卻打起了自己的小算盤：他以前只知曾國藩膽子大，敢於攖皇帝之逆麟。這次才知道此人本領大，以在籍侍郎，振臂一呼，就集兵數萬，所向披靡。如果他打敗了太平軍後反戈朝廷，那豈不是比太平軍還難對付？即使他不反戈，但由漢人立下拯救王朝之全功，以後滿洲八旗的威信何在？皇帝的如意算盤是讓曾國藩遊擊野戰，殲滅太平軍有生力量，最後仍由盤踞在天京腳下的滿族將領收功。因此雖然屢獲大勝，湘軍與清王朝體制上的矛盾仍然沒有理順，曾國藩的處境仍然十分艱難。這種艱難在江西表現得最爲充分。
二
鑑於湘軍是唯一有戰鬥力的部隊，咸豐皇帝命曾國藩出省作戰，支援困境中的江西。
湘軍出省作戰實行的是“就地籌餉”，江西省官僚系統負有供餉之責。其時江西巡撫是陳啓邁。其人氣度狹隘，寸權必爭。在他眼裡，曾國藩不過是一個辦團練起家的在籍官員而已，地位等同紳士，要在江西吃自己的軍餉，就必須對自己唯命是從。因此他對曾國藩指手畫腳，呼來喝去，而所下命令又朝三暮四，令人左右爲難。曾國藩在奏摺中有過這樣的描述：
羅澤南克復廣信以後，臣本欲調之折回饒州、都昌，以便與水師會攻湖口。陳啓邁則調之防景德鎮，又調之保護省城，臣均已曲從之矣。旋又調之西剿義寧，臣方覆函允從，而陳啓邁忽有調往湖口之信；臣又覆函允從，陳啓邁忽有仍調往義寧之信。
對這樣一個毫不知兵的巡撫，曾國藩實在無法敷衍，只好拒不從命。這下子惹火了陳啓邁，對曾國藩“多方掣肘，動以不肯給餉爲詞”。曾國藩沒辦法，只好自己想辦法在江西籌餉，這又侵犯了陳啓邁的財政權。在他的帶領下，江西通省官員與曾國藩針鋒相對。曾國藩要對商人抽稅，地方官員馬上也抽，強分一杯羹。曾國藩要任用一個地方上的紳士，地方官就扣住不放，甚至對敢於接近曾國藩的紳士打擊報復。蓋有曾國藩關防的捐輸執照，不被地方官員承認，說曾國藩“未奉明詔，不應稱欽差字樣”；又說他“曾經革職，不應專摺奏事”；說他“系自請出徵，不應支領官餉”等，極盡侮辱玩弄之能事，大有擠垮曾國藩之勢。曾國藩在江西數年之間步步荊棘，處處碰壁。曾國藩自己說他在江西“事事被人欺侮，故人得而玩易之也”，連與曾國藩積怨很深的王鑫，也不無同情地說“滌帥遭際若是，直令人急煞”，“滌帥所處真是不易”。
曾國藩忍無可忍，拍案而起，於咸豐五年六月十二日，以陳啓邁“劣跡太多，恐怕貽誤大局”，上奏參劾。陳啓邁的所作所爲確實讓人無法爲之辯解，咸豐皇帝閱之大怒，立刻將陳啓邁革職查辦。
然而，接下來發生的事情又重複了湖南的經驗，這次參劾不但沒有使其他江西官員束手，反而令他們變本加厲。接替陳啓邁任江西巡撫的文俊行事一如陳氏，江西官員在他的率領下團結起來處處給曾國藩下絆子設障礙。甚至曾國藩的兵勇也被人毒罵痛打，遭受侮辱。曾後來在給朋友的信中回憶這段經歷說：“江西數載，人人以爲詬病。”又形容當時的苦況說：“士飢將困，窘若拘囚，羣疑衆侮，積淚漲江，以奪此一關而不可得，何其苦也。”
當然，使他“積淚漲江”的根本原因，不是江西官員的個人素質，而是咸豐皇帝對自己不信任。在籍之員出山帶兵，本是基於對王室的忠心，不想皇帝卻對他如此提防，曾國藩的寒心和委屈可想而知。他無時不想掛冠而去，但時勢之危與聖人之教又不容許，只好百計隱忍，甘受煎熬，長年寸心如焚。“國藩昔在湖南江西，幾於通國不能相容。六七年間，浩然不欲復聞世事。”“虹貫荊卿之心，而見者以爲淫氛。碧化萇宏之血，而覽者以爲頑石。古今同慨，我豈伊殊。屈原所以一沉而萬世不復者，良有以也。”委屈痛苦，溢於筆端。甚至這樣對好友劉蓉說：“所至齟齬，百不遂志。今計日且死矣，君他日誌墓，如不爲我一鳴此屈，泉下不瞑目也。”種種不平之鳴，證明這是他一生中精神最痛苦的時期之一。一向對曾國藩多所譏評的王運，在編寫《湘軍志》時，也在日記中對曾國藩深表同情：“夜覽滌公奏，其在江西時，實悲苦，令人泣下……滌公言：‘聞春風之怒號，則寸心欲碎；見賊船之上駛，則繞屋彷徨’，《出師表》無此沉痛！”
這就是曾國藩所說的“爲江西所唾罵”，以及“又參撫臬，丙辰被困南昌，官紳人人目笑存之”的難堪經歷。
三
正在曾國藩痛苦萬分之時，他接到了父親的訃告。這個噩耗此刻倒成了擺脫困境的天賜良機。他立刻上疏要求回家守孝，並且不等皇帝的回覆，把軍隊拋在江西，徑直回到了湖南老家。
皇帝當然不會批准他在家守孝三年，催他立刻回到軍中。曾國藩給皇帝上了一封奏摺，一股腦地把自己壓抑已久的愁苦憤懣都說了出來，期望皇帝會體諒他的苦衷，授予他職權。
曾國藩在奏摺中將官場的潛規則說得很清楚。