王霸，字元伯，西漢潁川郡潁陽縣（治所在今登封市東金店）人。年輕時承祖業任獄卒，曾到京城長安求過學。

    漢初始元年（公元8年）底，王莽篡權稱帝，不久，建立“新”朝。因“新”朝統治腐敗，各地紛紛爆發農民起義。起義軍將領劉秀路過潁陽時，王霸聞訊前去拜謁，因談得投機，王霸就隨劉秀從軍。“新”朝地皇四年（公元23年），王莽派大軍圍困起義軍所在的昆陽城。為了解圍，王霸等十三騎勇闖敵營，最終突破重圍并搬來救兵，為昆陽之戰的勝利立下大功，在昆陽之戰中大傷元氣的新朝很快即被推翻。不久，起義軍內部斗爭激烈，勞苦功高的劉秀、王霸等將領被解除兵權，王霸一氣之下解甲歸故里。

    后來，劉秀遇重用，被任命為司隸校尉。再次路過潁陽時，劉秀力邀王霸從軍，王霸就帶領幾十個同鄉隨劉秀前行。不久，劉秀被任命為大司馬，前往河北征戰。因前景兇多吉少，當初和王霸一起從軍的同鄉紛紛離去，唯有王霸始終跟隨劉秀。劉秀不禁感慨道：“潁川從我者皆逝，而子獨留。努力！疾風知勁草（成語“疾風知勁草”即源于此）。”后來，劉秀率大軍攻破邯鄲，王霸奮勇作戰，親手斬殺曾一度稱帝的王郎，獲得其印綬。因立下首功，王霸被封為王鄉侯。

    建武元年（公元25年），劉秀稱帝建立漢朝（史稱東漢），年號建武。在大封功臣時，劉秀任命王霸為偏將軍，第二年，又改封為富波侯。建武五年春，王霸被任命為討虜將軍，先后在新安、函谷關等地屯田。曾率軍攻打滎陽、中牟等地的賊寇，并一舉蕩平。從而徹底消除了困擾當地多年的匪患，還百姓以安寧。

    建武九年，王霸任上谷（今河北懷來縣東南）太守。因匈奴屢犯北部邊境，王霸率軍多次與敵作戰，使匈奴難以進入漢境。第二年，王霸在平城（今山西大同市）大敗盧芳的軍隊，威震匈奴。后來，匈奴和烏桓聯手在邊境襲擾。王霸率軍歷大小戰近百次，屢敗胡虜。

    王霸在與匈奴、烏桓的長期作戰中，感受到了戰爭對雙方百姓造成的痛苦。于是，他數次向劉秀上書，大膽提出應與匈奴交好，和則兩利的主張。后來，其主張被采納。于是匈奴、烏桓與漢修好。從此，北疆多年無戰事。

    漢明帝永平二年（公元59年），王霸因病去世。為表彰其功績，漢明帝劉莊令人圖畫為漢立下不朽功勛的名將時，把王霸列為“云臺二十八將”之一。作為一代名將，王霸之事在《后漢書·銚期王霸祭遵列傳》中有記載。