桐丘之名肇自何代，據康熙二十四年（1685年）碑文記載：其始於春秋之世，本屬鄭地，乃平王東遷封鄭懿親於桐丘。周平王東遷之年為公元前770年，故桐丘之名距今已兩千七百餘年了。
雖有桐丘之名，但桐丘故城遺址在何地，僅見清乾隆二十七年（1762年）及光緒十九年（1893年）《扶溝縣誌》所載，桐丘故城即在今縣治的城關鎮。但以上所載有失史實，令人不敢苟同。古桐丘故城應在今扶溝縣城西十公里韭園鎮後鄭村北的高崗——霧煙山，而非今縣治之城關鎮。且從以下諸文略述之。
一、文獻有關桐丘的記載
《水經注•卷二二•洧水》載：洧水又東南經桐丘城。（《春秋左傳》：莊公二十八年，楚伐鄭，鄭人將奔桐丘。又西面桐丘，其城邪長而不方，即城之名矣）。魯莊公二十八年，為公元前666年，記載桐丘城在今扶溝縣城之西。
《水經注疏•卷二二•洧水》載：洧水又東南經桐丘城。按：下言城南即長堤，為洧水之北防，則水逕城南。下引杜：在許昌東北，在今扶溝縣西二十里。《春秋左傳》：莊公二十八年，楚伐鄭，鄭人將奔桐丘，即此城也。
《春秋左傳注》：莊公二十八年秋，楚令尹子元伐鄭，鄭人將奔桐丘。桐丘：今扶溝縣西二十里有桐丘亭，當即此也。
《古今地名大辭典》桐丘條載：在河南扶溝縣西二十里。
《方壺齋輿地叢鈔•再補編•河南地略三》載：桐丘亭，在扶溝西，鄭地。
以上幾種文獻均記載桐丘城在今扶溝縣城城西十公里，而今縣城西十公里正是霧煙山所在地。據此可證明桐丘故城就是今天縣城西十公里的霧煙山。
二、霧煙山出土石碑有關桐丘的記載
康熙二十四年《重修桐丘峰頭三清殿、玄帝殿、大門、青龍日虎殷記》中雲：“桐丘立小扶亭之西，去鄢陵二十餘里矣。”
康熙三十一年（1692年）《扶溝縣西桐丘重修殿宇神像碑》中雲“桐丘為扶邑之右障”。
道光七年（1827年）《重修天仙祠、菩薩堂、三官聖母殿暨前後諸廟並山門、戲樓碑記》載：“蔣公題有古桐丘匾額，遺蹟宛在，其曰桐丘郡、曰天地崗、曰天井崗、曰霧煙山、小五臺，地同而名異也。”蔣公指順治十五年（1658年）至十七年扶溝知縣蔣其昌。
咸豐八年（1859年）《桐丘寨》橫碣，正中書“桐丘寨”三字，右堅書“鄢扶百村創修”，左豎書“咸豐八年公立”。是年，安徽潁州農民起義軍波及扶溝、鄢陵，兩縣百村之人逃難於霧煙山上，為防義軍入侵，遂築寨以防，名為“桐丘寨”。
以上碑刻文字記載，足以證明霧煙山即為桐丘故城的事實。
三、霧煙山現狀與城關鎮
丘者，山丘、丘陵之意也，為高出地面的山崗。桐丘故城位於扶溝縣城西十公里處的韭園鎮後鄭村北，屬春秋故城。城址在南北走向的崗嶺上，長1300米，寬80米，高5—10米，最高處25米。這與《水經注•卷二二•洧水》條“四面桐丘，其城邪長而不方”相吻合。原址上殿宇輝煌，松柏蔽日，碑刻林立，今已無存，僅西部在1978年文物普查時發現有分層所築的夯土層，每層厚10—15釐米。此城歷史悠久，風格獨特，地勢險峻。據碑文對桐丘的記載：“遙瞻之右，嶂霧靡漫，崗煙蒸騰，有時而全著廟貌，有時而半露峰尖，不啻蜃樓海市，足壯觀瞻焉？近觀蒼松翠柏，幹霄蔽日，殿宇輝煌，香火鱗次。山峰有井，名曰天井，每逢陰雨，其泉上注，晴則即眢。且南據峻嶺而北環洎河，西接潁川而東連北陳，臨其上者無不如在目前，其勝景，誠名區也。”
明弘治十八年（1505年），村民在霧煙山上修建真武廟，著名文學家，前七子首領李夢陽撰寫《創修真武廟碑記》記載煙霧山：“形勢挺拔，堆青環翠，望之儼然若太華玉峰之狀，雲影緋徊，霞光絢爛，誠一邑之福地，棲神之佳所。”
光緒《扶溝縣誌》：“在邑西有天井崗即古桐丘。《水經注》名天井陵，又名霧煙山。高數丈，地勢險要，山上古碑斷碣，多為千年舊物。煙雲漂渺，迥絕塵寰。”桐丘宿霧為扶溝古八景之一。
由此可知，昔日之霧煙山較今天更為巍峨高大，桐丘城築此勝境之地亦在情理之中。
現今之城關鎮，為隋末廢新汲縣併入扶溝時，把縣治移至此地的。因隋廢新汲併入扶溝時，縣治仍在原扶溝縣的谷平鄉，因偏於兩縣之北端，多有不便，至大業十四年（618年），才把縣治又移至今天位居兩縣之中的城關鎮。扶溝雖故有桐丘舊城，因其偏於縣之西隅而不便，故選此位置適中之地。所以今城關鎮之桐丘故城，除新、舊《扶溝縣誌》之外，向無桐丘之說，更無桐丘故城之名。故桐丘故城非是縣誌上所說的今之縣治城關鎮，而是在今縣城西十公里韭園鎮後鄭村北的霧煙山。
1985年3月，霧煙山被扶溝縣人民政府公佈縣級重點文物保護單位。
2002年成立霧煙山民主管理委員會。
2006年，霧煙山被市政府、市文化局公佈為市級文物保護單位。
