曹操死後，臧霸為何要帶部隊離開，其實不是自願的，而是因為他並不支持曹丕繼承魏王，被迫離開。

所以在《魏略》中記載：“建安二十四年，霸遣別軍在洛。會太祖崩，霸所部及青州兵以為天下將亂，皆鳴鼓擅去。”

臧霸，黃巾作亂時，臧霸跟隨陶謙破黃巾，拜為騎都尉，並且收兵于徐州。後與孫觀、吳敦、尹禮等聚合軍眾，臧霸為統帥，屯於開陽一帶，自成一方霸主。在公元197年(建安二年)與呂布合作，在公元198年(建安三年)，曹操攻打呂布，藏霸幫助呂布共同攻打曹操，但是隨後呂布失敗之後，曹操招降臧霸，並未收其兵權，拜臧霸為琅邪相，繼續統領青、徐二州，並在之後的對袁紹之爭和對抗孫吳政權的戰役中，出工出力，協助曹操大破袁紹，擊退孫吳政權的進攻，一時間成為曹操心腹力量。

因為，曹操對於臧霸那是信任，並給予他在青徐二州一定的管理權限，並在勝仗之後進行封賞，而曹丕則不同，曹丕一支想重用曹休，並讓曹休取而代之臧霸。

《三國志 魏書十八》：文帝即王位，遷鎮東將軍，都督青州諸軍事。及踐阼，進封開陽侯，徙良成侯。
《三國志》注引《魏略》：文帝即位，以曹休都督青、徐。

曹丕，一繼承王位，就安插曹休在青徐二州，可見對臧霸的不信任，這也就是開始了曹丕正式奪取臧霸兵權的第一步，所以在聽聞曹丕繼承王位的時候，藏霸心裡也清楚，曹丕不會像曹操那樣信任自己的，所以自己才走的。

即使在之後，臧霸為曹魏在立戰功，但是臧霸也只是換來了，官位上的升遷，但實際的兵權漸漸地被曹丕削去。

公元222年(黃初三年)，曹休督領張遼、臧霸等人，在洞口一帶徵討吳將呂範，在此時臧霸已經聽命於曹休的指揮。

《魏略》中有記載：帝疑霸軍前擅去，今意壯乃爾，遂東巡，因霸來朝而奪其兵。”

曹丕“東巡”，發生在黃初四年，也就是在這時候，臧霸已經在無兵權。

可以看出臧霸知道曹丕對待自己的態度，才會出走而並沒有反對曹丕，也是明智的選擇，以至於臧霸能夠得以重享晚年，在公元243年(正始四年)七月，臧霸得享從祀於曹操廟庭，從而善終。