魏良成威侯臧霸宣高泰山華人也。父戒,為縣獄掾,據法不聽太守欲所私殺。太守大怒,令收戒詣府,時送者百餘人。霸年十八,將客數十人徑於費西山中要奪之,送者莫敢動,因與父俱亡命東海,由是以勇壯聞。

黃巾起,霸從陶謙擊破之,拜騎都尉,鎮黃巾,又霸集徐州兵,孫觀尹禮吳敦昌豨,駐開陽。建安二年,攻瑯邪相蕭建,據莒城。為建交好呂布怒,擊霸,霸守戰之,布未克而退,遂結同盟。

曹操之討呂布也,霸將兵助布。既擒布,霸自匿。操募索得霸,見而悅之。以為琅邪。封都亭侯,加威虜將軍。又與于禁昌豨,與夏侯淵討黃巾餘賊徐和等,有功,遷徐州刺史,拜揚威將軍

曹丕即王位,遷鎮東將軍,進爵武安鄉侯,都督青州諸軍事。及踐祚,進封開陽侯,徙封良成侯。徵為執金吾,位特進。每有軍事,帝常咨訪焉。

薨,諡曰威侯