《東王北伐實錄》載：天國元年九月二十一日，克永州，收新兵及綠營逾萬。擢黃宅中知永州府事，李正民襄之。衛王蒞書院宣《憲法》及新學，生員皆喜之。大軍休整五日，二十七日，拔營向北，中軍隨水軍而行。
九月二十七日，八點，大軍拔營。
船隊離岸，沿瀟水入湘江。
林鳳祥任陸路先鋒，中路軍向北。
三日之內，常寧、清泉二縣先後向水軍獻城，陸路的東安、祁陽二縣亦不戰而下，官吏皆暫留原職，
九月三十日，中午。水軍船隊抵衡州城東的東洲島，楊秀清、伍庭昌、羅大綱等人登岸觀察，只見城門緊閉，城牆上都是守軍，有人向著這邊指指點點。
“大綱，三娘，你們看這衡州城比那永州城如何？”楊秀清指著衡州東門問。
“城看起來更大，城牆看起來也要更高一些。”羅大綱仔細看過，回答。
“衡州自古就是楚南門戶堅城，歷朝歷代都很重視，城牆當然不會差。”楊秀清點點頭，接著問，“那要是和永州一樣攻城，結果會怎麼？”
“我們有加農炮和狙擊手助陣，打下來肯定沒問題。”蘇三娘看著高大城牆，“但是守軍己經瞭解我們的戰術，也會做出相應調整，增加我們的進攻難度。並且這城牆更高，傷亡估計少不了。”
“西哥，你看城上那些守軍，只是看著我們，也沒有開啟城門的意思呢！”曾水源看向城牆上。
“我們船隊沒多少人，給他們的壓迫不夠。等等朝貴那邊到了再看。”
楊秀清說完，帶著眾人回到船上。
——
下午，陸路先鋒林鳳祥率三千騎兵抵達南門外，休整之後，林鳳祥下令用攜帶的兩門加農炮向城牆上發射炮彈試探虛實，炮彈落在城牆上轟然炸響，上面一片哭爹喊孃的嚎叫聲傳來。
城內沒有還擊。
兩刻鐘後，衡州南門洞開，旋即東門也開啟，中軍入城。
衡州知府謝鶴翎率闔城官員跪迎於道，奉上官印、戶冊、糧冊、庫鑰。
楊秀清令其暫留原職，曾水源、黃玉昆襄助規範民政和律法；調三千水軍配合林鳳祥接管城防，收繳守軍武器入庫，等候蕭朝貴大軍到來後，再收編挑選綠營兵和團練，按天國規制重新整編。
謝鶴翎領命，安民告示很快貼了出去，衙役在大街小巷奔走相告，那些被炮聲嚇得關門閉戶的市民陸續開門，衡州市井恢復。
楊秀清用兩個小時把這些事安排下去，拉上伍庭昌轉身便要出門。
曾水源一把攔住他，“西哥，你把這一大攤子扔給我，是要急著去哪兒？”
“你們辛苦點，我去遊山玩水咯！”楊秀清撥開他的手，“辛苦點也總好過拼死拼活打仗你說對吧？”
“對！”曾水源撓撓頭，“你是大元帥，為什麼不是你辛苦點呢？”
“我是大元帥，當然要享福咯！”楊秀清揮揮手，跨出大門，“走咯！”
城東碼頭，十艘快船己備好，羅大綱和蘇三娘在船頭等著，警衛團的人都在船上，還帶了兩門加農炮。
伍庭昌一臉疑惑的問，“西哥，咱們這是要去哪兒？”
“耒陽。”楊秀清在艙裡坐下，“大綱，出發！”
