庐州得固，杨秀清又令夏官又副丞相曾立昌、恩赏丞相陈仕保、冬官又副丞相许宗扬统兵八千，北进直隶，接应林凤祥、李开芳。再令国宗韦俊、秋官又正丞相曾天养，飞速入鄂，会合石祥祯，再攻武昌。韦俊、曾天养得令，督兵两万，逆江而上，1854年1月20日，进抵黄州。援军至，石祥祯满生欢喜。曾天养道：“吾新诛江妖，兵锋正厉，乘胜攻武昌乎？”
石祥祯道：“隆冬时节，三九严寒，不利动兵；暂歇时日，且看清妖动作。”
韦俊亦附。大军压境，湖北巡抚崇纶谓湖广总督吴文镕道：“吴大人上契圣心，下孚众望，至鄂月余，吾未见大人施技杀贼，一味坐守武昌，此能天长地久乎？贼于咫尺之黄州，随时来攻，大人何策御敌？”
吴文镕道：“吾已奏调胡林翼领黔勇来援，曾国藩水师亦于近日可成。届时可合全楚之力，水陆齐发，灭贼于荆襄。援兵未至，不宜轻出。崇大人如有杀敌高招，尽可即使。”
崇纶道：“吾皇屡敕出城接战，吴大人一再迁延，意欲何为？”
吴文镕道：“黔、湘军至，收夹击之效，有何不可？”
崇纶再不言语，恼而上疏：湖北现有兵勇一万数千，除守城及扎营城外要隘外，尚有数千可以出征，若待湖南两广各船炮到齐，道路迢遥，深恐有需时日。况贼匪大股多赴安徽，现在楚境者系零星小丑，并有土匪冒名抢劫，长发老贼实系无多。若派数千官兵配以现有炮船，水陆夹击足以痛剿。吴文镕终日闭城坐守，一筹莫展。兵勇各告奋勇，情愿自去杀贼，吴亦不准往，不知是何居心，是何肺腑！咸丰帝闻奏大怒，谕斥吴文镕：一味株守，不图前进，竟置大局于不问，可有诚心？荆襄事大，朕来分工，所有省城防守事宜即责成崇纶妥筹布置，吴文镕亲率官军出城督战；倘再迁延，革职拿问。吴文镕恨崇纶之阴，慨圣意之切，愤而出兵。曾国藩闻讯力劝：“虽有严旨切责，吾师尚当剀切痛陈，备言进剿之不能得力，徒挫声威。即以此获咎，而于吾师忠直之素，谋事之臧，固亦可坦然共白于天下。”
吴文镕回道：“吾意坚守待君东下，汇合林翼黔勇，收夹击之效，自是正办。今为人所逼，时不及待，吾受国恩厚，岂惜死？以一死报国，无复他望。君所练水陆各军，必候稍有把握，然后可出而迎敌，不可以吾故，率尔东下。东南大局，恃君一人，务以持重为意，恐此后无有继者，吾与君所处固不同也。”
曾国藩观文默然，半晌无语。罗泽南、郭嵩焘皆道：“不救江岷樵，吾已被全湘责骂；将士亦有离心。武昌近在咫尺，此若一破，潇湘难保。”
曾国藩道：“虹贯荆轲之心，见者以为淫氛而薄之；碧化苌弘之血，览者以为顽石而弃之。吾非心如磐石，今兵未练成，倾巢一出，溃如潮退，万般付之东流；家国完矣。”
湖南巡抚骆秉章亦是愁容满面，谓提督鲍起豹道：“曾国藩阴忍，一不救江忠源，二不救吴文镕，吾予王鑫三千兵，吴督却之，武昌若失，祸必及湘，看曾厮将窜至何处！左宗棠此人，吾三番五次恭请，总不待见；使币入山，再行敦促，勿厌其烦，至其足动而止。”
1854年1月29日，吴文镕亲率四千兵勇，倾出武昌，进驻堵城。时值隆冬，大雪纷飞，兵勇拆民房举炊；一时间，数十里内房屋尽毁，犹不足供，军民皆怨。吴文镕叹曰：“本不欲民争利，奈何仓促而出，资财皆缺！”
湖北按察使唐树义道：“此地距黄州仅二十余里，贼逆转瞬即至，制台大人若有闪失，荆襄再难转圜，烦请大人速返武昌遥制。”
吴文镕道：“勿再大人相称，吾乃一兵弁也。子方兄扼守水路，吾护堵城，你我水陆并举，生死与共！”
唐树义道：“你我虽一把年纪，然皆大丈夫也；大丈夫做事，只求一点儿精诚；生当做人杰，死如江中丞！”
2月7日夜，太平天国天历新年，黄州城烟花盈天，石祥祯、韦俊、曾天养、陈玉成等燃香烧纸，普天同庆。吴文镕攻其不备，督兵夜袭。然甫一接仗，练勇先逃，官兵继之。文镕制止不下，溃守堵城。国宗石祥祯道：“吴文镕妖，全不知兵。堵城滨江临壑，三面皆水，已是绝地；复设大营十一座，排比屯扎，又犯兵家大忌。吴妖不亡，天理不容！吾与韦国宗正面强攻，曾丞相绕其后，纵火烧之，吴妖必溃。”
2月12日，大雪纷飞，道路泥泞，石祥祯全然不顾，发令总攻。清军营寨被烧，前后受敌，接战即溃。两时辰不到，四千清军逃散殆尽，湖广总督吴文镕、总兵德亮、知府蔡润深皆死于乱军中。陆师溃，唐树义不便再战，率水师上驶金口暂避。太平军逆江而上，不费分毫占得汉口、汉阳。16日，石祥祯率军再抵武昌城下。太平军三犯鄂省，咸丰帝急谕：湖南巡抚骆秉章选派精兵、湖南帮办团练大臣曾国藩统领炮船，克日抵鄂，扼贼之吭；江西巡抚陈启迈，尽遣炮船，驶出九江，择扼要之区，截贼往来之路，与曾国藩声势联络，上下夹击；兹授荆州将军台涌为湖广总督，都统官文接任荆州将军；着湖北学政青麟为湖北巡抚，原湖北巡抚崇纶暂留湖北协办军务。贼逆大举入鄂，庐郡虚空，福济、和春务必鼎力协心，剪除胡以晃逆匪。太仆寺卿齐承彦进言：东南半壁，贼势铺张，只可缓取；束城之贼，已为强弩之末，务必彻歼。臣闻林凤祥、李开芳二贼由独流窜出时，匍行雪地，多至腿脚皴裂。现虽占踞束城等村，势已穷蹙。臣以为胁从之民可抚则抚，亦釜底抽薪之一法，其不受抚者正宜及时进攻，勿失机会。北地兵马善寒恶热，以后天气渐暖，人马易病，若南贼再来，彼时更难措手。贼之伎俩，全靠木城土垒，昔日占踞独流若何布置，则束城之贼情亦可得其大概矣。咸丰帝纳齐承彦意，再谕僧格林沁、胜保：该大臣等会督大兵追剿窜匪将及两旬，总以专待大炮为词，逐日迁延，何时始能竣事？且束城等村与独流之可以负隅久踞者迥别，何以不能逼近贼垒？是否该逆又经筑木城？该大臣等匿不以闻。东西两路分兵叠进，该逆均得由束城分股接应，该大臣等所谓智取者安在？僧格林沁、胜保接旨，再攻束城。林凤祥、李开芳株守不出。僧格林沁令西凌阿正面攻击，自率一部袭束城之后。胜保亦督兵自西南攻击。将近城垣，炮子倾出。清兵纷纷倒地。炮声过后，林凤祥亲率二千兵士，出城迎击。僧、胜不敌，溃退。是夜，林凤祥、李开芳率兵突袭火器营，斩杀正参领恭讷春，掳取货药无数。僧、胜大惊，不敢再击，就近密放枪炮，开沟挖长壕，遍布鹿角、树珊，以防林、李突围。林凤祥、李开芳顿兵束城月余，吃喝用度告罄，只得再行突围，南进阜城。僧格林沁、胜保匆匆拔营，紧随其后，复再圈围。福济、和春接旨，亦不懈怠，围攻庐州，昼夜不歇。胡以晃独力难支，求援天京。林凤祥、李开芳被困，庐州告急，杨秀清心焦；急令吴如孝接守镇江，罗大纲率部援皖。又急召石达开、韦昌辉，商讨北援事宜。韦昌辉道：“启禀东王殿下，探报，曾立昌部已于丰县包家楼北渡黄河，现正兵分三路，挺进山东。”
杨秀清道：“本王亦知。”
石达开道：“启禀东王殿下，曾立昌兵寡，即便会合林李，亦属杯水车薪。烦请东王殿下下诏，敕令林凤祥等南返息养。”
杨秀清沉思半晌，道：“曾立昌一路披荆斩棘，一月时间即渡黄入鲁，实乃大将之才；倘能与林李会合，定能焕发勃勃之生机。石祥祯、韦俊等围攻武昌，倘能得手，天国固矣。”
石祥祯等屡攻武昌不克，遂兵分三路，韦俊、石凤魁继攻武昌。曾天养、陈玉成部转攻鄂中、鄂西，一月之内，挺进六百里，连克孝感、云梦、安陆，宜昌。石祥祯攻金口，轰沉唐树义座船，全歼湖北水师；其后四十天内，疾驰八百里，攻占岳州、湘阴、靖港、宁乡，前锋直逼长沙。