至正二十四年（1364年）正月，朱元璋被百官舉為吳王，立長子朱標為世子。封李善長為右相國、徐達為左相國，常遇春、俞通海為平章政事，朱元璋的政權發生了實質性的變化。
至正二十四年（1364年）三月，朱元璋再次率兵攻打武昌，陳友諒的次子陳理最終沒有堅守住武昌，出門投降。陳理的投降，標誌著：朱元璋吞併了陳友諒集團，朱元璋下一個目標就是張士誠。
至正二十六年（1366年）八月，朱元璋在聲討張士誠的《平周檄文》，用地主階級的口吻汙衊紅巾軍起義是：“妖言既行，兇謀遂逞，焚蕩城郭，殺戮士夫，荼毒生靈。”朱元璋形容自己：灼見妖言不能成事，又度胡運難與立功”。
至正二十六年（1366年）十二月，朱元璋派廖永忠去滁州接小明王韓林兒到應天來，路上，韓林兒淹死在瓜步，宣告了紅巾軍韓宋政權的滅亡。朱元璋與張士誠的戰爭還沒有結束，朱元璋也在注視著北方元朝的情況。
至正二十七年（1367年），朱元璋以擴廓帖木兒拘留自己的使者為藉口，雙方在徐州打了一仗。這一仗朱元璋看出來，元朝將帥嫌隙，元朝滅亡的時間到了，到了至正二十七年（1367年）十月，朱元璋決定北伐。
朱元璋在北伐之前，就開始召開軍事會議，朱元璋先問道：“現命諸公北伐，諸公有何計策？”常遇春的回答道：“用我們強大的百戰之師直接攻入元都，可速戰速決。”朱元璋並沒有同意，常遇春提議的直搗大都的建議。
朱元璋說：“元建國百年，大都的守備必定堅固。孤軍攻城，糧餉若是沒有儲備，元方援兵四集，我們就會失利。我主張要先攻打山東、河南、潼關；整個形勢歸我方掌握，在進攻大都，再向西卷山西和陝西。”
將領們一致同意朱元璋的戰略部署，朱元璋任命徐達為徵虜大將軍，常遇春為副將軍。同時朱元璋還對士兵宣佈了紀律：““非必略地攻城而已，要在削平禍亂，以安民生。凡遇敵則戰，若所經之處及城下之日，勿安殺人，勿奪民財，勿毀民居，勿廢傢俱，勿殺耕牛，勿掠人子女；民間或有遺棄孤幼在營，父母親戚來救即還之”。
在將士臨行時，朱元璋讓宋濂起草北伐檄文，朱元璋向老百姓宣佈，北伐是為了“拯生民於塗炭，復漢官之威儀。”朱元璋是號令嚴肅、秋毫無犯的師旅，中原各地“民人”不要逃避。這一檄文對漢族地主階級有很大的號召力，同時也瓦解了敵人。
洪武元年（1368年）朱元璋在南京稱帝，建國號為明。朱元璋的軍隊北伐一路勢如破竹，毫不費力。徐達率軍抵達淮安，派人到沂州招諭王宣、王信父子。王宣是靠組織“義兵”被元朝授予淮南淮北義兵都元帥的。
自從察罕帖木兒陣亡後，擴廓帖木兒忙於內戰，王宣父子趁機攻掠山東全境。王宣被徐達招降後再次反叛，遭到了徐達的鎮壓。接著莒州、滕州、東平、兗州、濟南、濟寧等地，先後被佔領，元朝守將逃的逃，降的降，四散而去。
洪武八年（1375年）距離朱元璋北伐已經過去了九年，這個時候王保保死於哈剌那海，朱元璋對北伐做出了總結：先取山東、河南、潼關；主要是切斷關中元軍的支援。常遇春的建議百戰之師直接攻入元都，這個建議不可取。
首先元軍的大都守備堅固，其次關中的元軍名將眾多，比如王保保、李思齊、張良弼，這些名將聯合起來，明軍進攻大都很難。朱元璋採取的是先打下根據地，慢慢的蠶食元大都。事情證明朱元璋是正確的，明軍拿下大都以後，張良弼、李思齊不戰而降，反而王保保抵抗到底。
