遼朝時期，吉林省大部分隸屬東京道，西部為上京道管轄。
金朝在其轄境設上京路、北京路、東京路、成平路、海蘭江路，基本覆蓋今吉林省全境。貞祐三年（1215年）女真人蒲鮮萬奴建立東真國，天興二年（1233年）為蒙古所滅。
元朝隸屬於遼陽行省，為開元路、北達達路、中書省泰寧路及中央樞密院直領的成平府轄區。
明朝大部分隸屬奴兒干都司，西部的洮南一帶屬大寧都司的泰寧衛，東南部一帶為建州衛，為建州女真發源地之一。
清順治十年（1653年），設寧古塔昂邦章京。清康熙十二年（1673年），清廷建吉林城，命名"吉林烏拉"，吉林由此得名，隨後寧古塔將軍駐地遷移至吉林市。乾隆五年（1740年）頒佈了"流民歸還令"，對山海關以東地區施行封禁政策。但清政府的封禁政策並未能阻止為生活所迫的華北大批漢族農民流入吉林省中部一帶，並向北、向東、向西擴展。乾隆二十二年（1757年），寧古塔將軍改為吉林將軍，"吉林"由原來城邑名稱擴大為行政區稱謂。吉林將軍轄區大體包括松花江、綏芬河、牡丹江、圖們江流域，西起開原威遠堡邊門，東至烏蘇里江兩岸和庫頁島在內的沿江及海中諸島，北起外興安嶺至日本海及黑龍江下游，南至長白山區。
嘉慶五年（1800年），增設長春廳，為長春建制之始。嘉慶八年（1803年），清政府廢止禁令。咸豐十年（1860年），中俄簽訂了《中俄北京條約》，原屬吉林省的沿海地區被割讓給俄國，吉林變成了內陸省。光緒四年（1878年）吉林設置墾務局，大事墾殖，經濟面貌大為改觀，並逐步形成東部的農林地區，中部的農業地區和西部農牧地區的差異特點。光緒三十三年（1907年），正式建吉林行省，設吉林巡撫（吉林省第一任巡撫為顧肇熙），省會設於吉林市。光緒帝嘗試通過政治改革挽回清朝內憂外患的局面，他首先發布諭旨：裁撤東北三將軍，設立奉天（今遼寧）、吉林、黑龍江三省；改盛京將軍為東三省總督。光緒三十四年（1908年），吉林省組成巡撫衙門，吉林將軍、吉林分巡道隨之廢除，吉林巡撫成為吉林省最高民政長官，併兼理旗務。同年，吉林省仿照關內行省之例，先後在省下置四路分巡兵備道。民國元年（1912年），吉林省作為南京臨時政府的22行省之一，區劃沿清舊制不變。
