滯留在香港的馬連良輾轉回到內地後，於1952年8月正式成立了馬連良京劇團。
（馬連良的《趙氏孤兒》）
在籌建馬連良劇團時最大的困難是湊不齊“四梁四柱”。馬連良挑班唱戲的最大特點是演員陣容整齊強大，不是單唱獨角戲，紅花配綠葉，一場戲下來觀眾才能得到最大的藝術享受。過去有的主角就怕同臺的配角超過自己。馬連良則不然，他鼓勵配角盡情發揮，配角把場子唱熱了，他自己的戲也就好唱了，可謂水漲船高。當年馬連良的扶風社後期就有張君秋、葉盛蘭、袁世海、馬富祿“四大臺柱”的鼎力輔佐。如今組建馬連良劇團，只剩下馬富祿還在身邊。張君秋隨同馬連良自港回到北京後，自己挑班成立了北京聯誼京劇團， 即後來的北京市京劇三團。葉盛蘭和袁世海早已加入了國家劇團，即後來的中國京劇院。馬連良身邊只有馬富祿、馬盛龍、黃元慶幾位主要演員。少了張君秋這個大青衣，馬連良就很難演出生旦對兒戲；缺了葉盛蘭的小生，馬連良的拿手三國戲就沒法唱；馬派戲中架子花臉最吃重，沒有袁世海的參演，馬連良的演出效果就大打折扣。
（羅慧蘭、馬連良合影）
所以，馬連良一籌莫展。他最頭疼的是團裡缺少一位合適的旦角，沒有一位合適的好旦角，馬連良的生旦對手戲就無法唱。一天，一個偶然機會，遇到有“電臺梅蘭芳”綽號的孟廣恆給名叫羅惠蘭的年輕人說戲，馬連良聽了她的唱，覺得嗓音、扮相都不錯，有培養潛力，於是吸收進馬劇團。馬連良為了培養新人，還特意把她介紹給梅蘭芳做了徒弟。結果，羅慧蘭隨馬劇團到上海演出時一炮而紅。羅慧蘭成了給馬連良配戲的主要旦角。馬劇團1955年底併入北京京劇團後，羅慧蘭因一次在南京的演出誤場受到處分，後離開北京京劇團去了新疆，這是後話。
馬連良劇團成立後當年冬天出京巡迴演出，第一站天津就臨時約請侯喜瑞，此後東北之行便借調了袁世海、江世玉、孫盛武等隨行演出。袁世海再次與馬有了合作的機會，袁1941年在扶風社與馬合作，馬連良對他十分器重，袁世海在表演上能“造魔”，兩人在同臺表演時往往能擦出火花。在《甘露寺》裡，當喬玄與孫權辭別吳國太走出宮門時，袁世海（扮孫權）回頭斜看了馬連良（扮喬玄）一眼，而喬兩眼正盯著孫，四目相對，喬對孫的蔑視盡顯，兩人內心較勁的戲就出來了。馬連良戲後對袁世海說，“我要的就是你這一眼，我和別人演過多少次，就是不給我這一眼。”袁世海後來常說，“就願意和三叔（馬連良）一塊兒演，怹用眼睛一刺激你，你就跟著長能耐!”
這次袁世海陪馬連良去東北巡演，還共同排演了當時最紅火的新編戲《將相和》。這出戏是在齊齊哈爾時排的，當時《將相和》已分別由李少春、袁世海和譚富英、裘盛戎演出，大獲成功。馬連良想，既然要排這出戏就不能應景，要演出自己的馬派特色來。他把年輕時常唱的《鴻門宴》中范增的一段【西皮流水】借來重新編詞配曲，用在藺相如“過函谷關”一場，“奉王旨意到秦邦”一段，頓時成為膾炙人口的名段而傳唱。馬劇團在瀋陽等地演出此戲極受歡迎，有評論說，藺相如這個角色的性格與馬派風格十分符合，馬連良演來很成功。回京後 馬連良在大眾劇場又演了兩場就掛了。他說，不能跟富英、少春搶戲。
1954年7月18日北京日報刊登馬連良劇團演出《四進士》的廣告，主要演員是馬連良、馬富祿、馬盛龍、馬崇仁、馬豔芬、黃元慶、周和桐、茹富華、羅慧蘭。
（馬連良、譚富英《群英會》）
到了1955年，上級提出了馬連良劇團與譚富英、裘盛戎領銜的北京市京劇二團合併以增強陣容的想法。馬譚是富連成的師兄弟，出科後各挑大樑，又都是四大鬚生之一，梨園界最講名譽地位，這兩位大佬能夠合在一起嗎？據說，二團的裘盛戎、譚世秀和馬團的黃元慶、馬崇仁分別去溝通做工作，馬連良還特意到大外廊營譚宅與師弟談心，探討新劇團的組建。譚富英是謙謙君子、忠義仁厚，他說，師哥（指馬連良）無論在藝術上還是資歷上都應該排在我前面。
對於譚富英的謙虛和對馬先生的尊重，裘盛戎曾對記者說：“瞧譚先生為了演出，對待馬先生那份尊重學長的勁兒，真夠我們大夥兒學習。有一次馬先生談到他七八年來不能演出他的名劇《十道本》的苦悶，他在這出戏裡先後要分飾李淵和褚遂良兩個角色，戲份太集中在他一個人身上了。過去他想由兩個演員來分飾，又因為劇團裡沒有相當的老生演員，所以一直無法演出。譚先生一聽這話，立刻表示願意和他合作演出，擔任李淵一角。譚先生雖沒有演過這個戲，可是他願意跟馬先生學。當我們看到馬先生拍著板眼，譚先生跟著他學的情景，使我們對他們發出衷心的敬愛。”
合併建團之前，二團與馬團1955年8月曾以“聯合演出”名義演出兩場《群英會 借東風》。馬連良的諸葛亮、譚富英的魯肅、裘盛戎的黃蓋、茹富華的周瑜、周和桐的曹操、馬富祿的蔣幹。戲迷們看到馬譚合作演出，驚喜若狂，奔走相告。北京京劇團於1955年12月1日至3日在天橋劇場舉辦三場建團公演，第一天是黃元慶的《挑滑車》、羅慧蘭的《女起解》、裘盛戎的《棗陽山》和馬連良譚富英的《十道本》，第二天是馬連良、譚富英、裘盛戎主演的《潘楊恨》，第三天是馬連良、譚富英、裘盛戎主演的《群英會 借東風》（這一場因馬連良患病未演出）。
此後，1956年和1960年，張君秋的北京市京劇三團和趙燕俠的燕鳴京劇團先後加入北京京劇團，於是形成了馬譚張裘趙五大頭牌的局面。
