1939年1月，竹沟新四军第四支队第八团留守处两个连组成新四军豫鄂独立游击大队南下大洪山，先后与许金彪领导的湖北省抗日游击大队、陈少敏率领的信应挺进队两个中队、陶铸和杨学诚领导的应城抗日游击队会合。
李先念
李先念任司令员、陈少敏兼任政治委员，不久由陶铸代理政治委员。
1939年11月，豫鄂边区委成立，豫南、鄂中、鄂东三个地区共产党领导的抗日武装统一整编为新四军豫鄂挺进纵队，并于1940年1月3日在湖北省京山县八字门建军，李先念任司令员，朱理治任政治委员，刘少卿任参谋长，任质斌任政治部主任。
1941年1月，新四军豫鄂挺进纵队整编为新四军第五师，李先念任师长暂兼政治委员，任质斌任政治部主任，后又任命刘少卿任参谋长。
1942年7月，新四军第五师归中共中央军委直接指挥。
1944年1月，第五师以1000余人组成豫南游击兵团（11月改称河南挺进兵团），挺进河南敌后，开辟了以遂平县西山查岈山为中心的根据地。
王震
王震领导的三五九旅
第五师与八路军三五九旅南下支队、河南军区部队合编为中原军区。