東樓書院，始建於清康熙五十九年(公元1720年)。杞縣義學移至縣城玉泉街，名謂玉泉書院。乾隆五十三年(1788年)，知縣周璣在古城東南隅另選新址，捐俸祿重建書院。因東向數百米有東樓公廟，遂名東樓書院。
東樓書院坐北朝南，有瓦房數十間，習武場一處。同治三至四年，知縣查以謙又籌資銀兩進行修整和擴建。擴建後的書院，臨街有頭門，進而有二門。前院內有講堂3間，東西廂房15間，為授課及士子考場所。中院有敬業堂3間，東西廂房各3間，為士子自學處。後院有廣華館3間，東西廂房各3間，為山長休息處。其右側有一小院，為士子游樂場地。西院又稱武書院，南有射圃(習武場)，北有正己亭(後名昭忠祠)3間，東西廂房各3間及水井廚房等。書院東南隅為春秋閣，其重樓三層，下奉關羽，中奉文昌，上俸魁宿。
東樓書院歷任山長都是當時的文化名人，最著名的當數民國初年曾任北洋政府大總統的徐世昌。後一任山長為蔣塑祖仁，山東濟寧州舉人。光緒末年，杞縣考中的舉人劉鑑堂、拔貢劉裕甫、補稟生趙聘卿、秀才孟紫垣、孟新垣、杜釗田、杜緒貞、魏鴻鈞、魏馨山等皆出其門下。
光緒三十一年(1905年)，知縣孔凡潔將東樓書院改為杞縣官立高等小學堂，為杞地興辦現代學校之始。首任堂長張南陔(鞏縣舉人，揀選知縣)，學監劉克昌(杞縣拔貢)。宣統二年(1910年)，在武書院內創辦杞縣乙種農業學堂(相當於高等小學)，民國元年(1912年)學堂改稱學校。民國四年，杞縣乙種農業學校又擴建為杞縣甲種農桑學校(相當於初中)。杞縣早期共產黨員吳芝圃、韓達生、張海峰等青年時代均曾在該校就讀。民國十六年(1927年)，此校名又改為杞縣縣立第一小學。民國二十七年(1938年)，日軍佔領杞縣停辦。1948年7月，杞縣全境解放，縣民主政府整合教育資源，將原設在東樓書院的完全小學改為杞縣第二小學，後又改為杞縣招待所。
