“皋”是指近水之高地，“虞”則指掌山澤之官吏。前傍水，後依山，故曰“皋虞”。 臯虞古城至今已有2200多年的歷史。城址坐落於青島市即墨區溫泉街道臯虞社區東皋虞村北。該址北依錢穀山，南面黃海，東西兩面遠山拱衛，形成天然屏障，堪稱鍾靈毓秀的風水寶地，孕育著古今人文精華。城址東西、南北各長400米，文化層深約2米。
據《漢書》記載，膠東王劉寄死後，長子劉賢繼承王位，另一子劉建於漢武帝元封元年（公元前110年），被冊封為皋虞侯，食邑皋虞縣。從劉建受封開始，皋虞侯國沿襲了6代137年。這時的皋虞城既是縣治，又是皋虞侯的都城。王莽建立新朝後，改皋虞縣為“盈廬”縣，皋虞侯廢，王莽政權被推翻後，恢復原名。東漢時，皋虞縣廢除，其地併入不其縣，皋虞城也逐漸荒廢，直至明朝方有人來此立村。
此處還是漢代博士諫大夫王吉（王子陽）家族墓群的所在地，證明了琅琊王氏在這裡的繁衍，人丁興旺，王吉為官清廉，為人稱道。他的後人從這裡遷出後輾轉到臨沂、江浙一帶，晉代“書聖”、《蘭亭序》的作者王羲之就出自這一支，所以說，王羲之的祖居就在皋虞。王氏家族則是名副其實的望族。據歷史記載，曾出過宰相（或相當於此職務）92人，皇后36人，駙馬36人，文人名士186人，有600多人名垂青史。
洪武年間，明朝開國功臣之一，威震漠北，勇救歧陽王的指揮使李榮（皇明開國功臣錄列455位）家族選擇在此立村定居，李氏家族10代均為驍勇善戰的明朝武將，多人任都指揮、衛指揮、千戶等職。每一代都有人為大明王朝壯烈戰死，得到過嘉靖皇帝的詔令表彰。其家族墳塋石像生中曾立有石人（按明禮志規定，只有二品以上官員的墓葬方可置兩石人，文武各一）。
到了乾隆元年（1736年），楊氏家族的12世祖楊琯來到皋虞北山打獵，見此獵物很多，又見皋虞古村的風水頗佳。就這樣，遷至此處落戶繁衍至今，已經成了村中的大戶。楊氏家族並不簡單，堪稱即墨歷史上極有影響的書宦世家，從明初到清末的400餘年間，楊氏家族共出過4名進士、9名舉人，1名知府、1名通判和10名知縣。
