朱元璋一直都是以李善長為文官首臣。李擅長無論是為朱元璋籌集糧草、兵餉，還是總理日常事務、制定典章賦稅，都是一把好手，有人認為李擅長既有蕭何之能，又有張良之才。
洪武四年，李善長“以疾致仕”。朱元璋賞賜了大量的土地、塚戶、佃戶、儀仗士，同時把李善長弟弟李存義提拔為太僕丞，女兒嫁給李善長的兒子，封其為駙馬都尉，要公主在李家嚴守婦道。
李善長辭職後，朱元璋先後封汪廣洋和胡惟庸都為右相。，有一次朱元璋生病十天不能上朝，汪廣洋說李善長恃功而驕，皇帝生病了不聞不問，漠不關心，其兒子是當朝駙馬，也不到宮中問安，朱元璋為此懷恨在心，削減了李善長一千八百石歲祿。汪廣洋由於無法做出成績，被貶到廣東行省做參議後，李善長重新出山和李文忠一起重掌大權。
後來爆發了胡惟庸案，由於李善長和胡惟庸是姻親，兩家經常往來，有人告發李善長的弟弟、胡惟庸的姻親李存義父子是胡黨。但因李善長的關係就赦免李存義父子死罪，幽禁在崇明島。
緊接著，朱元璋開始清算李善長，清算的理由主要是：
第一、李善長為享樂，找湯和借三百兵士擴建府邸。但是湯和卻跟朱元璋說李善長擅自借兵士私用。
第二、不久後，京城有一批罪犯被判流放戍邊，李善長几次出面請求赦免丁斌。朱元璋抓來丁斌審查，丁斌再次說李存義與胡惟庸相互勾結謀反，於是，朱元璋重新把李存義下獄問罪。李存義入獄後供出李善長和胡惟庸謀反有牽連。大概意思是胡惟庸攛掇李善長和他一起造反時，李善長僅僅以自己老了，不中用為理由拒絕胡惟庸，而不是進人臣之道告訴朱元璋或者勸導胡惟庸謀反是錯誤的。
其三、藍玉在北伐至捕魚兒海的時候，抓到胡惟庸和北元通敵聯絡的奸細。藍玉把這個奸細交給了李善長，李善長並沒有向朱元璋報告，就把私自處死了這個奸細。
朱元璋以弟弟狀告哥哥縱容、隱匿胡惟庸謀反、私通外敵對李善長痛下殺手。《明史·李善長傳》說：“剖符開國，列爵上公，乃至富極貴溢，於衰暮之年自取覆滅。”意思是，李善長之死，也是富貴至極而忘乎所以而導致的，任何人都不能挑戰皇帝的權威，都必須對皇帝忠誠，得到不利於皇帝的消息都應當向皇帝彙報。
縱然有免死金牌，李善長一家70餘人仍然被處死。至此朱元璋的四大丞相徐達、汪廣洋、胡惟庸和、李善長死後，朱元璋隨即撤除中書省，徹底結束了中國的宰相制度。
閱讀更多 君有凌有 的文章
