於是，王霸就跟隨劉秀到了洛陽任職。
後來，劉秀被更始帝任命為大司馬，撫巡河北。劉秀便任命王霸為自己的功曹令史，帶他一道徇行河北。
由於當時的形勢很不樂觀，當初與王霸一道投靠劉秀的幾十個賓客，都紛紛離去，而只有王霸矢志不移，堅定跟隨劉秀。
所以，劉秀深為感激，他曾經讚揚王霸說：“元伯啊，潁川從我者皆離去了，而元伯你獨自留下。努力！努力！疾風知勁草。”
王郎在邯鄲稱帝起兵以後，劉秀北徇至薊城。王郎傳檄薊中，要懸賞捉拿劉秀。劉秀就派王霸到市中招募兵士，準備抗擊王郎。王霸到市上招兵，受到市人的揶揄，王霸慚憤而回。此中故事，已在前文敘及。
劉秀到達信陽以後，就發兵攻破邯鄲。王霸追擊敗軍，斬殺王郎，獲得其印綬，王霸因功被劉秀封為王鄉侯。
王霸跟從劉秀平定河北，他經常率軍與臧宮、傅俊等將領同營駐紮。三人中，王霸最為關心和愛護士卒，因而深得將士們崇敬。對死者，他脫衣收殮；對傷者，他親手救養，深得軍心。
所以，劉秀認為王霸通曉軍事，可以獨當重任，便任命他為偏將軍。劉秀還下令把傅俊、臧宮的部下合併在一起，也由王霸統管。而另行任命臧宮、傅俊為騎都尉。
建武二年()，光武帝改封王霸為富波侯。後來，劉秀就命令命王霸與馬武去攻打梁王劉紆。
卻說梁王劉紆的部將蘇茂，得知梁王被圍訊息，緊急率領自己的大軍以及收編的五校變民部隊，救援垂惠。他們人多勢眾，氣勢洶洶，大有一戰消滅漢軍的氣勢。
蘇茂率軍趕到垂惠以後，他就打算一鼓作氣，與周建裡應外合，聯合偷襲馬武的營壘。計議已定，他們立即行動。梁軍將領馬上派遣精銳騎兵去攔截馬武護送糧草的部隊。
馬武得知輜重部隊被圍，大驚失色。他親自率領大軍前往解救。梁軍周建見漢軍中計，便從城內衝出來，與蘇茂合兵夾擊馬武。馬武倚仗著有友軍王霸大軍的援助，有恃無恐，作戰時，他並未傾盡自己的全力。結果，很快被蘇茂、周建大軍擊敗。
馬武部隊措不及防，大敗逃走。在路過王霸的營壘之時，馬武一邊倉皇逃跑，一邊大聲呼救，渴求王霸大軍的大力支援。王霸卻緊閉自己的營壘，嚴密戒備，不去接應自己的友軍，馬武非常惱怒生氣。
見友軍王霸不予支援，馬武怨恨交加，一邊逃跑，一邊大罵王霸不講義氣，不顧大局。
無可奈何之下，馬武只得率領自己的敗兵，一邊逃跑一邊拼死抗爭。
王霸的部下將領，見主將放棄增援友軍馬武的部隊，也都有些憤憤不平。他們在心裡暗罵主將混賬懦怯，沒有同袍情義。軍官們都想率領自己親信的部下，單獨率軍出軍，前去聲援馬武部隊。
看見部下們的表現，王霸甚為憂慮。他立即解釋說服，試圖制止將士們的衝動冒進：
“兄弟們啊，你們稍安勿躁！不是本帥貪生怕死，不顧全大局，不想解救捕虜將軍。而是此時，敵人計程車氣正在巔峰，我們此時出兵，不僅是白費力氣，而且是必敗無疑！這樣會白白挫傷我軍的銳氣！兄弟們耐心等待，本帥自有妙計！”
軍官們不聽主將的解釋，就想違背軍令，立即爭先出戰。王霸急急嚴令制止：“諸位，皇上信任本帥，才讓本帥擔當領軍重任。違背軍令，就是違背皇上的聖旨，殺無赦！兄弟們，你們就像平日那樣，再信任本帥一次，相信本帥的判斷不會有任何問題。
我對敵軍主將的謀略瞭如指掌。當初，蘇茂還未背叛我大漢時，本帥曾經與之共事，深深地瞭解他用兵的特點和方略。蘇茂的部隊，都是精銳，都是勁敵。他們人馬眾多，而又士氣旺盛。
可是，我們的將士，剛剛戰敗，他們心有餘悸，一定會心生恐懼，對我軍極為不利。
再說，捕虜將軍和我，兩軍分營駐紮，隊伍行動不一。我軍不慎被敵人偷襲，我軍暫時失利，也在情理之中，大家不用灰心喪氣，焦躁洩氣，也不用氣餒與畏懼。
蘇茂大軍，長途奔襲。他們現在是勞累，飢餓，疲憊。他們作戰，只是仗著一股剛來的銳氣前來攻擊我軍，必然不能持久堅持。本帥估計，不久，他們就會精疲力竭。
等到那個時候，我們以逸待勞，再發動攻擊，一定可以克敵制勝。兄弟們以為如何呢？”
“大帥分析十分有理！我們願意聽從大帥的號令！”將官們這才信服，異口同聲地表示同意。
見王霸並沒有出軍支援友軍馬武大軍，蘇茂，周建更加以為王霸膽怯。他們越發有恃無恐，加緊對馬武部隊攻擊。
於是，梁軍出動了他們所有的後備部隊，全力追擊馬武敗軍。
馬武大軍見沒有了友軍王霸的支援，將士們為了活命，他們只有獨立地拼死迎敵。兩軍混戰良久，局勢灼人。
