1124年7月，在遼朝滅亡前夕（遼亡國在1125年2月），他帶著200鐵騎兵離開遼國的末代皇帝天祚帝，向西發展，不久進抵“可敦城”（前回鶻王城，在今蒙古的巴彥諾爾附近），可敦城是遼朝西北的重鎮，在這裡設置有建安軍節度使司、西北路都招討司等軍政機構，有常駐騎兵2萬人。這是遼朝末年遼國最後的軍事實力所在。
他以可敦城為中心，經過五、六年的時間，逐漸收服了原遼朝統治下的漠北諸部，到1130年，已具有相當的實力。終於引起金朝方面的注意，金朝在這一年準備調集軍隊進攻可敦城，但因為路遠難走，中間還隔著沙漠，實際上雙方沒有交上手，但這也引起他的思考，出路在哪裡？。
實際當時金軍強大，金軍僅僅用十多年的時間，就滅亡的遼和北宋，耶律大石知道跟金軍硬拼是不明智，這一點天祚帝就沒有認識到，天祚帝在敵強我弱的時候還主張跟金軍硬拼，最後亡國，當年他就堅決反對，建議天祚帝“養兵待時”，因為天祚帝堅持要去跟金軍拼命，才離開他的。這時他意識到向南、向東發展，跟金軍硬拼不行，收復遼朝的故土是不現實的，還不如去換個方向“開疆拓土”。
1130年2月，他果斷地離領主力撤出可敦城，向西越過阿爾泰山，抵達新疆北部的額敏縣一帶，修築“葉立密城”作為新的根據地。
西域中亞一戰封神
戰事的起因是公元1141年的卡特萬戰役 ，該場戰役曾被伊斯蘭史學家稱為史上最大戰役。大石立國之後，東征女真復國受挫，遂轉而向西在中亞發展。先逼迫東喀喇汗國稱臣，又擊敗西喀喇汗國，震動伊斯蘭世界。1141年，葛邏祿和西喀喇汗國爆發衝突，西喀喇汗國向已稱霸中西亞百年的塞爾柱帝國求援，塞爾柱帝國蘇丹桑賈爾花費半年時間，整合伊斯蘭諸國大軍10萬人，浩浩蕩蕩進入河中，殺向葛邏祿。葛邏祿見大事不好，急忙向大石求援。1141年9月9日，由契丹、漢、突厥、蒙古等民族組成的西遼軍隊在撒馬爾汗以北的卡特萬草原大敗塞爾柱大軍，據《遼史》記載，塞爾柱軍隊橫屍數十里，僅在達爾加姆峽谷就裝下了上萬死者。當時控制區域東至高昌，西抵裡海，成為了中亞的霸主。塞爾柱帝國因此元氣大傷，退出河中，而中亞各伊斯蘭王國則自此臣服於西遼。
如今西遼的後裔契丹部族在吉爾吉斯斯坦的身份均屬於主體民族吉爾吉斯族，他們都還承認自己是契丹後裔，還組織到中國來尋根，參拜契丹民族留下祖先墓碑。在吉爾吉斯斯坦570萬的人口中契丹裔大概為50萬人（中國通史節目披露）左右，佔全國人口的1/11。
他就是耶律大石（1087－1143，一說1094-1143），字重德，契丹族，西遼德宗，遼太祖耶律阿保機八世孫。通曉遼、漢文字，擅長騎射，中亞史書中記為大石林牙，為西遼的創立者。
