據《史記》記載，老子為河南鹿邑縣人，老子的生卒年不詳，據推斷他活躍在公元前571年到公元前471年之間。據說老子在大約一百六十多歲時，騎著青牛去了函谷關不知去向。
傳說，又過了許多年老子又回到了故里鹿邑，在家鄉修仙講道，後來在這裡昇仙。他的講道道場一直還在，人們稱之為昇仙臺、拜仙台。宋真宗時期，大中祥符七年(公元1014年)追封老子為"太上老君混元上德皇帝"，從此這裡又被叫做老君臺。
老君臺始建於漢代，從唐代開始興盛，但是，多次毀於戰亂，歷代都有修復，距今已有2000多年曆史。老君臺臺高8.84米，臺底面積765平方米。山門下青石臺墜32層，加上正殿前一層，正好為33層。全臺以古式大磚堆砌，由24個平面圍成圓柱形，臺上環築七十釐米高的圍牆，形與城牆相似。臺上有正殿三間，東西配殿各一間。正殿內原有老子銅像一尊，高兩米許，鑄工精巧。殿門簷下東西各嵌一碑，上書"道德真源"、"猶龍遺蹟"。山門內東側原有鐵柱一根，高七尺，徑七寸，突兀而立，古色默然。
老君臺在抗戰時期，發生了一件令人匪夷所思的事情。
那是一九三八年，農曆的五月初四上午九點多，侵華日軍在鹿邑縣城外瞭望鹿邑縣城，看到有兩處高大的建築。其實這兩個建築是城牆東南角的奎星樓，還有就是右邊的老君臺。為首的梅川太郎命向這兩處建築發炮，奎星樓在炮火中轟然倒塌。
而老君臺在發射了十三發炮彈後，不但紋絲未動，就連響聲都沒聽見，一發炮彈都沒有爆炸。日軍莫名其妙，當他們進城來到老君臺時，發現大殿裡供奉著“太上老君”，日軍各個張口結舌。據說，全體日軍跪倒匍匐在大殿門前，向老君祈禱。
那麼，十三發炮彈都哪裡去了？
老君臺大殿東牆、東偏殿後牆和柏樹上共中炮彈12發，其中有一發打在了老君臺的西側。還有兩發炮彈穿透大殿山牆，一發卡在了大殿內西邊的樑架上，一發落在了老君像前的神龕上。在二零零三年九月五日，老君臺有一處坍塌進行維修時，發現了那個第十三發炮彈，幾十年過去了它已經是鏽跡斑斑了，經專家確認為日軍所留。後來被引爆威力仍然很大。
這件事無法解釋，只能成為千古之謎了！
