公元601年，劉仁軌出生於汴州。他自幼家境貧寒，因而沒有接受過正規的教育。但是，他卻不像一般人那樣放棄了進取之心。雖然沒有紙和筆，但是他會用樹枝在地上寫字。經過他的勤懇努力，終於成為一位博學之士。
在太宗時期，劉仁軌便得到了重用，累遷到給事中的位置。所謂給事中，就是門下省的屬官，地位比較高。由於國事的需要，因而與皇帝的接觸也是比較多的。
到了高宗顯慶年間，劉仁軌得罪了一個人，那就是武則天前期的左膀右臂李義府。由於李義府因為淳于氏一案被上面進行審問，而當時的劉仁軌做的就是主審官，因為沒有證據，不得不釋放了李義府。李義府雖然被釋放了，但是這個仇恨卻記在了心裡。
公元600年，李義府終於找到了一個落井下石的好機會。大唐時期，高句麗、百濟、新羅是朝鮮半島的三個大國，三方雖然一直都在交戰，但卻沒有個輸贏。新羅和大唐關係很好，高句麗、百濟與日本關係近些。
公元655年，新羅被百濟所聯合的高句麗、靺鞨進犯，失去了三十多個城，新羅向大唐求救。高宗剛剛平息西域的叛亂，轉頭就來幫助新羅攻打百濟和高句麗。
公元660年，蘇定方被任命為神丘道行軍大總管，率領十萬大軍渡海進攻百濟。唐軍勢如破竹，迫使百濟王投降，百濟覆亡，大唐在這一帶設置了五個都督府，百濟成為唐朝的羈縻府州。
後來，高宗任命劉仁軌監統水軍，保證唐軍的後勤供應。當時的氣候並不適合出海，但是李義府硬要劉仁軌出兵，劉仁軌無奈只好出海。
在海上，劉仁軌遇到了強大的風浪，使得很多船隻都翻了，折損十分嚴重。朝廷派袁異式去審問劉仁軌，就在袁異式出發之前，李義府找到他，對他說：“你要是會辦事，以後就不用擔心升官的問題了。”袁異式當然明白李義府指的是什麼，於是便想對劉仁軌不利。
袁異式想要逼迫劉仁軌自殺，但是劉仁軌卻不屈服，他說：“國有國法，家有家規。我要是犯了法，自然會由國家進行處置。要我自殺，稱了小人的心意，那簡直就是痴心妄想。”
袁異式沒有辦法，只好向李義府說明情況，李義府自然要置劉仁軌於死地，於是，他便在朝堂上說道：“不斬仁軌，無以謝百姓。”此時的劉仁軌，正處於一個危險的境地。
這個時候，舍人源直心出面替劉仁軌說情：“海風暴起，非人力所及。”高宗知道李義府與劉仁軌結過仇恨，他想李義府必是要排擠劉仁軌，所以只是免了劉仁軌的官，讓他以普通士兵的身份來為國家效力。
公元661年，高宗任命左衛中郎將王文度為熊津都督，安撫百濟民眾。誰知道王文度在渡海的時候病死了，唐軍的主力此時已經撤離了百濟，百濟復辟勢力想要與唐軍一決高下。他們佔據了周留城，與唐軍進行對峙。
為了擴大自己的聲勢，他們派人將在日本做人質的王子扶余豐接回，日本想要保住自己在朝鮮半島的勢力，便同意將扶余豐放回。這樣一來，復辟勢力大增，將原來守城的唐軍團團圍住了。就在這千鈞一髮之際，朝廷果斷地任命劉仁軌為檢校帶方州刺史，帶著王文度的部下向新羅進發。
這時，劉仁軌滿懷信心，豪情壯志地說道：“吾欲掃平東夷，頒大唐正朔於海表。”
劉仁軌雖然是個文人，但是卻是個帶兵打仗的良將，他治軍嚴明，軍隊戰鬥力很強。百濟復辟軍隊雖然人多勢重，但卻不堪一擊。他們設下柵欄想要阻止唐軍水師的進攻，結果卻被唐軍和新羅軍隊打得一敗塗地，只好從百濟城撤兵。
這時，唐軍的人數少，也只好暫時休戰。剛好這個時候，百濟的軍隊中發生了內訌，使得軍隊中出現了一團混亂的局面。而此時蘇定方率領的東征大軍，雖然把高句麗軍打得落花流水，但是始終未能攻下平壤城。現在已經是隆冬時節了，氣候惡劣，蘇定方無奈只好班師回朝了。這麼一來，留在百濟的劉仁軌面臨著艱難的選擇。
這時，朝廷給了劉仁軌兩個選擇，要麼渡海回國，要麼在新羅休整。劉仁軌接到了命令後，仔細地分析了當時的情況，覺得只有守住百濟，才能把朝鮮半島的主動權抓在自己手裡。
於是，劉仁軌又上書給高宗，闡明瞭自己的觀點。朝廷被劉仁軌說服，決定讓他繼續留在百濟。果然不出所料，百濟軍隊內部再次發生火併，扶余豐殺死了叛亂的首領，成為握有實權的百濟軍的統帥。他知道光憑自己的軍隊是無法取得勝利的，所以便向日本和高句麗求援。
此時，高句麗剛被打得落花流水，因此不敢出兵相助。日本卻覺得這是個很好的機會，於是派出兩萬多人進入朝鮮半島。日軍在新羅攻下好幾座城，對百濟虎視眈眈。
唐廷得知這一情況後，迅速做出了反應，徵發淄、萊、青、海四州兵馬七千多人，由右威衛將軍孫仁師率領，開赴熊津，與劉仁軌會師，唐軍氣勢進一步增強。
唐軍按照劉仁軌的建議，擒賊先擒王，猛烈進攻百濟周留城，周留城形勢危急，急急忙忙向日軍求救。日軍一萬多人乘坐著海船來到白江口，準備在這裡登陸支援百濟軍隊。
日軍與劉仁軌率領的大唐水師在白江口相遇，結果被劉仁軌打得全軍覆沒。當時，日軍一萬多人，戰船一千多艘。而大唐水師只有七千多人，戰船一百七十艘。
大唐的戰船高大堅固，製作精良，遠遠勝過了日本的海戰工具。唐軍水師把日軍戰船夾在了中間，順風放火，一時之間，火光沖天，海水皆赤，日軍潰不成軍，傷亡無數。
後來，日軍將領樸市田來津遭到唐軍的圍攻而死。而周留城中的百濟王子扶余忠勝和扶余忠志見大勢已去，只好投降唐軍。百濟王扶余豐也不知道是否還活著，並沒找到他，唐軍只能將他的寶劍作為戰利品帶回。
這次海戰，引起了日本全國的轟動。日本害怕大唐軍隊再次進攻，就在日本國內修建了四道防禦工事，此後，再未向朝鮮半島用兵。後來，日本見大唐興盛，便派出遣唐使和留學生學習大唐的先進文化和制度。
自海戰以後，百濟各城都歸附了大唐，只剩下任存城的遲受信堅決不肯歸降。百濟義軍首領沙吒相如和黑齒常之也向唐軍投降了，隨後，劉仁軌決定派沙吒相如和黑齒常之攻打任存城，這下可嚇壞了軍中的孫仁師。
孫仁師覺得他們是靠不住的，萬一放虎歸山，後果將是不堪設想的。於是，劉仁軌耐心地向孫仁師解釋，說道：“沙吒相如和黑齒常之都是有勇有謀、知恩圖報的人。他們知道順我者昌、逆我者亡的道理，這樣的好機會他們是不會放過的。因此，你不必擔心他們會有叛變的想法。”
孫仁師想來想去，也是這麼個道理，於是便同意兩人帶兵攻打百濟任存城。隨後，唐軍給黑齒常之等人配備了兵馬和糧草，直攻任存城。經過了一番苦戰，任存城終於被拿了下來。
後來，遲受信拋妻棄子，狼狽逃竄，投奔了高句麗，隨後，百濟便被大唐平定了。這樣一來，高句麗就被新羅和唐軍夾攻起來。孫仁師等人回朝覆命，劉仁軌留下來鎮守百濟。
因為戰爭的破壞，百濟戰亂之後，民生凋敝，百廢待興。這個時候，劉仁軌顯示出了他卓越的經營才華。平亂不久，劉仁軌一邊安排民眾生產，一邊屯田練兵，漸漸地便出現了百姓安居樂業、軍隊防務嚴謹的局面，這些也為後來進攻高句麗打下了良好的基礎，因此不得不說劉仁軌是個有才之人。
孫仁師等人回到了朝中後，高宗向他們問及朝鮮半島的戰事情況，同時還稱讚了寫奏報給他的官員。孫仁師等人回答奏報都是出自於劉仁軌之手。
高宗十分高興，本來以為得了個武將，誰知，他卻是個文武雙全的人物。於是，高宗便把劉仁軌連升六級，並任命他為帶方州刺史，還給他建了一個宅子，以此用來表彰他的功績。從此，朝中的人也對劉仁軌肅然起敬。
劉仁軌十分了解朝廷的焦急心情，也知道皇帝的意思，於是，上表奏報朝廷百濟目前所面臨的一系列困難，朝廷對此都給予了積極的回應，劉仁軌也因此成了高宗和武則天所信任的重臣。
在高宗泰山封禪期間，劉仁軌帶領著新羅、百濟、耽羅、日本四國使者來參加大唐盛典。高宗異常興奮，提拔劉仁軌為大司憲，後又兼任檢校太子左中護，封樂城縣男。
劉仁軌是個既寬厚又圓滑世故的人，就在高宗恩寵自己的時候，他完全有能力將陷害自己的袁異式剷除，但是他卻沒有這麼做，他不但沒有對袁異式下手，還對他禮遇有加。他主政後又提拔袁異式為詹事丞，推薦他做司元大夫。人們都讚揚劉仁軌以德報怨的行為，高宗和武則天知道後，對劉仁軌好感大增，委以重任。
公元666年，高句麗莫離支泉蓋蘇文去世。他的大兒子泉男生繼承了莫離支的職位，泉男生的弟弟泉男建、泉男產不服這樣的安排，於是發兵攻打泉男生，泉男生實在無力抵擋，便派自己的兒子泉獻誠到大唐求助。
大唐正愁不知道如何攻打高句麗呢，高句麗內戰這樣的機會可不能錯過。於是，大唐派李勣做遼東道行軍大總管，節制各軍，帶領數道合力攻打高句麗國。劉仁軌被任命為遼東道副大總管，後又改為熊津道安撫大使，全力協助李勣攻打高句麗。
公元668年冬天，高句麗滅亡，被納入大唐帝國的版圖，唐朝在高句麗設置九都督府、四十二州、百縣，由平壤的安東都護府統轄，命右威衛大將軍薛仁貴為檢校安東都護，率領兩萬多人駐守此地，安東都護府管理著原來高句麗和百濟的土地。
大唐平定了新羅的兩個宿敵，佔領了朝鮮半島四分之三的土地。新羅一看自己的勢力整個朝鮮半島無人能及，於是便動起了蠶食大唐疆土的念頭。此後，他們竟然收留了反唐勢力，想借此來將大唐排擠出朝鮮半島，這種行為觸怒了大唐，劉仁軌率領大唐軍隊，雄赳赳地與新羅展開了對戰。
公元675年，高宗任命劉仁軌為雞林道大總管，任命衛尉卿李弼、右領軍大將軍李謹行為副大總管，渡過瓠盧河，攻佔了新羅重鎮七重城。也就是在這個時候，靺鞨兵登陸新羅南境，配合唐軍作戰。新羅軍受到了重創，力量也被大大地削弱。
於是，新羅王便派使節到大唐進行請罪，高宗接受了新羅王的道歉，並赦免了他。此後，大唐與新羅以平壤以南的大同江作為界線，劃定了雙方的勢力範圍。隨後，劉仁軌班師回朝。
劉仁軌回到朝廷後，因為功勳卓著被升為了公爵，連同他的兒子和侄子也一起被封為了“上柱國”。因為劉仁軌一家為故鄉爭了光，家鄉人把他居住的地方稱為“樂城鄉三柱裡”。後來，他又當上了左僕射。
公元677年，吐蕃進犯邊境。劉仁軌被任命為洮河道行軍鎮守大使，去抵禦吐蕃的進犯。他曾多次上書高宗，並且為抵禦吐蕃獻計獻策，但是，這些卻都被李敬玄給壓了下來。
劉仁軌知道後氣憤不已，決心與李敬玄鬥一鬥。官場上互相傾軋是比較普遍的現象，劉仁軌對這個並不陌生。他知道李敬玄是文人出身，不善於打仗，便推薦他代替自己抵禦吐蕃。
當李敬玄知道了這件事後便慌了手腳，他知道自己的能耐，於是，便極力推辭這個任務。誰知，高宗卻執意派李敬玄去。李敬玄沒辦法，只好接替了劉仁軌的位子，與吐蕃作戰。
公元678年，吐蕃軍再次進犯，唐軍與吐蕃軍展開大會戰。李敬玄不懂戰爭，坐視不救，唐軍受到了很大的打擊，損傷過半。劉仁軌重用的黑齒常之在這場戰鬥中脫穎而出，此後經過數次戰爭，被提拔為大唐的燕國公。
劉仁軌確實有識人的能力，但是他們之間的爭鬥，卻葬送了很多大唐將士的性命，這一點也為劉仁軌的人生留下了瑕疵。
雖然舉薦李敬玄不當，但是高宗卻並沒有因此而責怪劉仁軌。公元681年，劉仁軌被任命為太子太傅，實際上這也是武則天的主意。在他任太子太傅的時候，曾經發生了一件有趣的事情，足可以說明劉仁軌對高宗的影響力。
少府監裴匪舒建議皇家賣掉馬糞，這樣，每年就能夠獲得二十萬貫收入。高宗問劉仁軌的意見，劉仁軌覺得這樣會讓後人覺得唐皇室是個唯利是圖的王室。
高宗認為也是這樣的道理，於是便不再提及此事。又有一次，裴匪舒給高宗建了一座精緻的鏡殿，建成之後，他請高宗和劉仁軌一起去觀賞。當劉仁軌看過之後，撲通一聲便跪倒在地，緊接著，他便跑下了殿堂。
高宗不知道是怎麼回事，下來便向劉仁軌問其中的緣由。劉仁軌說：“天上沒有兩個太陽，國家沒有兩個君王，我剛剛在鏡子裡見到好幾個君主，這是不祥的徵兆啊！”
其實，劉仁軌是想借此來讓高宗放棄不必要的享樂思想。這一招果然奏效，高宗急忙命人把四周的鏡子都換掉了。
劉仁軌一直都遊刃於官場之中，到了晚年，他想要離開官場好好休息一下，結果，武則天不願意放他回去。因為，他也是武則天在朝中的重要支持力量。
公元683年，高宗去世，武則天親政。劉仁軌再次出任尚書左僕射、同中書門下三品，負責留守長安。接著，他又以年邁為由向武則天請辭，並且規勸她不要重蹈呂后的覆轍。
武則天寫信又對劉仁軌進行了一番安撫，認為他是個對國家有用之人。劉仁軌覺得武則天是個治國能人，又是極為尊重自己，於是，他經過思考後決定繼續留任。
在武則天啟用新官制後不久，劉仁軌病逝，享年八十四歲。朝廷追贈他為開府儀同三司、幷州大都督，將他陪葬乾陵，賜其家實封三百戶。劉仁軌的兒子劉浚官至太子中舍人，後來被酷吏殺害了。
劉仁軌最重要的功績在於戰功，他對大唐時期穩定朝鮮半島起到了不可小覷的作用。同時，他也將大唐先進的生產方式、先進的文化傳播到了朝鮮半島以及更遠的地方，從而使得大唐威名遠揚。
