【古代建置】
夏（前2070年至前1600年） 據《尚書·禹貢》載，夏王朝首開區域建置和地方行政體制之端，按居民居住地劃分為九州。時汝州境有霍邑（在汝州市西南）。屬豫州。
商（前1600年至前1046年） 初為霍邑，後為諸侯國霍國，管轄南到伏牛山，東到禹州（今禹州市），西至嵩縣，北至登封（今登封市）一帶。仍屬豫州。
西周（前1046年至前771年） 霍國仍為諸侯封地。屬東都王畿。
東周（前770年至前256年） 春秋（前770年至前476年）時，霍國及其東北部的梁邑，為王畿之地。後戎蠻興起，建有戎蠻子國，將梁及霍納入其國。周敬王二十九年（前491年），楚陷戎蠻子國，梁及霍遂屬楚。
戰國（前475年至前221年）初，鄭打敗楚，梁（含霍，下同）隸鄭。周烈王元年（前375年），韓滅鄭，改梁叫南梁（以別於陝西韓城南部的少梁）。時南梁附近又出現一些人口集中的較大聚落或城邑，如陽人聚（在今汝州市西）、憚（dàn）狐聚（在今汝州市西北）、赫人聚（在今汝州市西南）、注城（在今汝州市西）等。南梁及附近諸聚落、城邑隸韓。周顯王二十八年（前341年），魏攻韓，戰於南梁，韓五戰五敗，南梁遂屬魏。周赧（nán）王五十九年（前256年），秦昭王滅西周，南梁及附近諸聚落、城邑屬秦。秦莊襄王元年（前249年）滅東周，置三川郡（治洛陽，在今洛陽市東北），南梁及附近諸聚落、城邑隸三川郡。
秦（前221年至前206年） 地方實行郡、縣制，在南梁置梁縣，轄附近諸城邑、聚落。梁縣隸三川郡。
西漢（前206年至公元25年） 初承秦制置梁縣，仍隸三川郡。高帝二年（前205年），改三川郡為河南郡（治洛陽），梁縣先後隸河南郡、司隸校尉部（簡稱“司隸部”，下同，仍治洛陽）。元鼎四年（前113年）和次年，又分別在梁縣東部和東南部置承休縣（在今汝州市東）和成安縣（在今汝州市東南）。成安、承休兩縣隸潁川郡（治陽翟，即今禹州市）。
王莽（公元2年至23年在位）新朝 襲西漢制，在周承休侯國置嘉美縣，隸潁川郡。
東漢（25年至220年） 建置因襲西漢，仍置梁、成安、承休三縣。建武二年（26年），改洛陽為雒（luò）陽，並廢成安、承休二縣入梁縣。梁縣隸司隸部河南郡（治雒陽）。五年（29年），改河南郡為河南尹（仍治雒陽），梁縣隸司隸部河南尹，至東漢末。
魏（220年至265年） 史稱“曹魏”。初，建置承漢，復改雒陽為洛陽，梁縣隸司隸部河南尹（治洛陽）。景元三年（262年），改司隸部為司州（仍治洛陽），梁縣隸司州河南尹。
西晉（265年至317年） 初，建置襲魏。泰始二年（266年），改河南尹為河南郡（仍治洛陽），梁縣隸司州河南郡。
永嘉五年（311年），成漢（即匈奴漢國）攻陷洛陽，改司州河南郡為荊州（仍治洛陽）。梁縣屬成漢，隸荊州，至西晉末。
東晉十六國（317年至420年）梁縣隸屬多變：
建武元年（317年）屬東晉，隸司州河南郡（治洛陽）。
建武二年至咸和元年（318年至326年），屬前趙，隸河南郡（治洛陽）。
咸和二年至永和五年（327年至349年），屬後趙，隸河南郡（治洛陽）。
永和六年至七年（350年至351年），屬“冉魏”，隸河南郡（治洛陽）。
永和八年至十一年（352年至355年），屬前秦，隸司州河南郡（治洛陽）。
永和十二年至興寧二年（356年至364年），屬東晉，隸司州河南郡。
興寧三年至太和四年（365年至369年），屬前燕，隸洛州河南郡（治洛陽）。
太和五年至太元八年（370年至383年），再屬前秦，隸豫州河南郡（治洛陽）。
太元九年至十九年（384年至394年），再屬東晉，隸司州河南郡。
太元二十年至隆安二年（395年至398年），屬後燕，隸豫州河南郡。
隆安三年至義熙十一年（399年至415年），屬後秦，隸豫州河南郡（治洛陽）。
義熙十二年至元熙二年（416年至420年）復屬東晉，隸司州河南郡。
南北朝（420年至589年） 初，梁縣先後隸司州河南郡（治洛陽）、洛州（治洛陽）。
北魏 神（jiā）三年（430年），改司州為洛州（仍治洛陽），梁縣隸洛州。太延五年（439年），北魏統一北方，梁縣仍隸洛州。太和十七年（493年），復改洛州為司州（仍治洛陽），梁縣隸司州。次年，置南汝原縣（治今汝州市城區）、治城縣（治今汝州市西）、石臺縣（治今汝州市西，即楊樓鄉石臺村）、東汝南縣（治今汝州市東）。此四縣和梁縣隸司州襄城郡（治所在襄城縣城）。
孝昌三年（527年），置汝北郡（治陽人城），領梁、南汝原、治城、石臺、東汝南五縣，隸司州（治洛陽）。至北魏末。
東魏（534年至550年） 北魏永熙三年（534年），北魏分裂為東魏和西魏。初，汝北郡屬東魏，隸司州。天平二年（535年），罷汝北郡，並改南汝原縣為汝原縣（仍治今汝州市城區）。梁、汝原、治城、石臺、東汝南五縣隸司州襄城郡。武定元年（543年），復置汝北郡，移治梁雀塢（今汝州市東北），並廢石臺、東汝南二縣入梁縣。汝北郡領梁、汝原、治城三縣，隸司州（治洛陽）。次年，置北荊州（治南陸渾縣，即今嵩縣東北），汝北郡領三縣不變，隸北荊州。四年（546年），汝北郡改隸廣州（治山北縣，在今魯山縣東，武定中移治襄城縣城）。五年（547年），汝北郡移治石臺縣城，仍領前述三縣，隸廣州。
北齊（550年至577年）北周（557年至581年） 北齊天保元年（550年），汝北郡移治汝原縣城（今汝州市城區），不久，改為汝陰郡，並廢治城入梁縣，汝陰郡領梁、汝原二縣，隸廣州，屬北齊。
北周保定三年（563年），改北荊州為和州（仍治南陸渾縣），並改汝陰郡為汝北郡。汝北郡領梁、汝原二縣，隸和州，屬北周。
北齊承光元年（577年），改汝北郡為和州（移治汝原縣城）。和州領梁、汝原二縣，隸南襄城郡（治隔城，在今桐柏縣西北），復屬北齊。
隋（581年至618年） 初，地方建置罷郡，實行以州統縣制。
開皇初（581年至583年），改和州為伊州（治伏流縣，原南陸渾縣，即今嵩縣），領梁、汝原二縣。開皇四年（584年），伊州移治承休縣舊地（今汝州市東），後（約在開皇四年至仁壽四年，即584年至604年間）又移至汝原縣城（今汝州市城區）。伊州領梁、汝原二縣。
大業元年（605年），改湛水縣為犨（chōu）城縣（治今寶豐縣南）屬汝州轄，伊州領梁、汝原、犨城三縣。二年（606年），改汝原縣為承休縣（治今汝州市城區），並改伊州為汝州，自此始有“汝州”其名，治承休縣城（今汝州市城區），汝州領三縣不變。三年（607年），復改承休縣為汝原縣（治今汝州市城區），並以郡代州，改汝州為襄城郡（治汝原縣城），領三縣不變。四年（608年），改輔城縣為郟城縣屬汝州轄，襄城郡領梁、汝原、犨城、郟城四縣。八年（612年），再改汝原縣為承休縣（治今汝州市城區），並劃陽翟（今禹州市）、汝源（治所不詳）、汝南（今汝州市東南）、魯（今魯山縣）等縣屬汝州轄，襄城郡領八縣。
唐（618年至907年） 初，建制襲隋。武德四年（621年），廢郡設州，改襄城郡為伊州（治承休縣城，即今汝州市城區）。伊州領梁、承休、郟（以郟城改，改年不詳）三縣，隸洛州總管府（治洛陽），同年，罷洛州總管府，改置陝東道大行臺（仍治洛陽）。伊州改隸陝東道大行臺。
貞觀元年（627年），省原梁縣，改承休為梁，移治於此（即今汝州市城區）。並廢魯州置魯山縣屬汝州轄。伊州領梁、郟、魯山三縣，隸洛州都督府（治洛陽）。八年（634年），復改伊州為汝州（治梁縣城，即今汝州市城區）。汝州領前述三縣，隸洛州都督府。十年（636年），始設道（省級）。汝州領三縣不變，隸河南道（治洛陽）。
證聖元年（695年），置武興縣（寶豐縣）屬汝州轄，汝州領梁、郟、魯山、武興四縣，隸河南道。神龍元年（705年），改武興縣為中興縣，不久又改中興縣為龍興縣。先天二年（713年），置臨汝縣（治所在今臨汝鎮村）。汝州領梁、臨汝、郟、魯山、龍興五縣，仍隸河南道。
開元二十一年（733年），改河南道為都畿道（治洛陽）。汝州仍領前述五縣，隸都畿道。二十六年（738年），劃仙州（治所在今葉縣西南）的葉及許州（治所在今許昌市）的襄城屬汝州轄。汝州領梁、臨汝、郟、魯山、龍興、葉、襄城七縣。二十八年（740年）襄城劃隸許州。汝州領六縣，隸都畿道。
天寶元年（742年），改汝州為臨汝郡（治梁縣城，即今汝州市城區），臨汝郡領六縣不變。七年（748年），襄城復歸臨汝郡。臨汝郡領七縣，隸都畿道。
乾元元年（758年），復改臨汝郡為汝州（仍治梁縣，即今汝州市城區）。汝州仍領七縣，隸都畿道。直至唐末。
五代（907年至960年） 唐亡後，北方中原地區相繼出現的後梁（907年至923年）、後唐（923年至936年）、後晉（936年至947年）、後漢（947年至950年）、後周（951年至960年）等五個朝代。這五個朝代都襲唐置汝州（治梁縣城，即今汝州市城區）。汝州仍領前述七縣，先後隸河南道開封府（治所在今開封市）、河南道河南府（治所在今洛陽市）。其間，後周顯德三年（956年）廢臨汝縣為臨汝鎮，入梁縣。汝州領梁、郟、魯山、龍興、葉、襄城六縣。
北宋（960年至1127年） 初，建置沿襲五代。至道三年（997年），廢道設路（省級），汝州仍領六縣，改隸京西路河南府（治洛陽）。熙寧五年（1072年），京西路分為南、北兩路，並廢龍興縣為鎮入魯山縣。汝州領梁、郟、魯山、葉、襄城五縣，隸京西北路河南府。
元祐元年（1086年），復置龍興縣，汝州領六縣；崇寧四年（1105年），郟縣劃屬潁昌府（治所在今河南許昌市），至政和三年（1113年），汝州領梁、魯山、葉、襄城、龍興五縣，仍隸京西北路河南府。政和四年（1114年），汝州因近京輔（指京城附近的地方），所以也叫輔州。
宣和二年（1120年），改龍興縣為寶豐縣。至靖康元年（1126年），汝州（輔州）領梁、魯山、葉、襄城、寶豐五縣，仍隸京西北路河南府，直至北宋末。
金（1115年至1234年） 建置沿宋。天會五年（1127年），汝州被金佔領，初領五縣不變，改隸汴京路（治所在今開封市）。貞元元年（1153年），改汴京路為南京路（治所仍在今開封市），至大定二十九年（1189年），汝州領梁、魯山、葉、襄城、寶豐、郟縣（屬汝州轄時間不詳）六縣，隸南京路。直至金末。
元（1206年至1368年） 首置行省，下設路（府）、州、縣。
太祖二年（1207年），劃襄城隸許州。次年，劃葉縣隸裕州（治所在方城縣城）。直到至元二年（1265年），汝州領梁、魯山、寶豐、郟四縣，仍隸南京路。至元三年（1266年），廢寶豐、郟二縣入梁縣，汝州領梁、魯山二縣，仍隸南京路。八年（1271年），汝州領前述二縣，改隸河南江北行省南陽府（治所在南陽市）。大德八年（1304年），復置郟縣屬汝州轄，汝州領梁、魯山、郟三縣，仍隸河南江北行省南陽府。直至元末。
明（1368年至1644年） 建置襲元。初至洪武七年（1374年），汝州領縣、隸屬同前。次年，廢梁縣入汝州直轄，汝州領魯山、郟二縣，仍隸河南江北行省南陽府（治今南陽市）。
洪武九年（1376年），廢行省和路，改設布政使司，汝州領前述二縣，隸河南布政使司南陽府。成化十一年（1475年），析汝州東南境復置寶豐縣屬汝州轄，汝州領三縣，隸河南布政使司南陽府。
成化十二年（1476年），兵部左侍郎滕昭（汝州籍人）和河南布政使原傑，以汝州距南陽府太遠，聯名上疏奏請朝廷將汝州析離南陽，憲宗准奏，汝州遂於同年九月從南陽府析出，升為直隸州（同府級），直屬河南布政使司。十二月，割嵩縣、魯山、汝州部分地區置伊陽縣（治所在今汝陽縣城）屬汝州轄。汝州直隸州領魯山、郟、寶豐、伊陽四縣，隸河南布政使司。直至明末。
清（1644年至1911年） 初，改布政使司為省。汝州仍領魯山、郟、寶豐、伊陽四縣，直隸河南省。直至清末。
【近現代建置】
中華民國（1912年至1949年） 初，建置襲清。汝州領縣、隸屬不變。
民國2年（1913年）2月，為推行道制（在省下設道），對河南原有府縣進行裁改，降汝州直隸州為臨汝縣（治所在今汝州市城區），隸豫西道（治洛陽）。次年6月，改豫西道為河洛道（仍治洛陽），臨汝縣隸河洛道。
民國16年（1927年）4月，南京國民政府成立後，廢道，實行省、縣兩級制。臨汝縣隸河南省。民國21年（1932年）8月始，在省、縣之間設行政督察專員公署。臨汝縣隸屬河南省第五（許昌）行政督察專員公署（簡稱許昌專區）。
民國33年（1944年）5月4日，日本侵略軍攻陷臨汝城。7月，日偽縣政府成立（駐臨汝縣城），隸河南省第五（許昌）行政督察專員公署。直至民國末。
中華人民共和國（1949年10月至2014年1月） 1949年10月至1954年9月，臨汝縣隸許昌專區。
1954年10月至1986年1月，臨汝縣隸洛陽專區。
1986年2月起，撤銷洛陽專區，實行市（地級）管縣制，臨汝縣又改隸平頂山市。
1988年8月，省政府通知“撤銷臨汝縣，設立汝州市（縣級），由省直轄，實行計劃單列，委託平頂山市代管”。
2011年，經中央編委批准，被確定為河南省直管縣體制改革試點。6月1日起，經濟社會發展事務省單列管理，行政建制、行政區劃維持不變。
2014年1月，全面實施河南省直管縣體制
