1924年，在國民黨第一次全國代表大會上，林伯渠當選為國民黨中央執委。會後，由孫中山指定，林伯渠擔任了第一任國民黨中央農民部部長。
1925年8月，林伯渠遞補為國民黨中央常委，成為三名常委之一，位居國民黨的領導核心。
1926年，在國民黨第二次全國代表大會上，林伯渠再次當選為中央執委、常務委員，兼農民部長。任職期間，林伯渠代表國民黨農民部，聘請時任國民黨候補中央執委的毛主席為廣州農民運動講習所所長。
當時，林伯渠在國民黨內的地位為何這麼高？
這是因為林伯渠的革命資歷太深了。
林伯渠是湖南常德臨澧縣人，生於1886年，與朱德、董必武、譚平山同齡。1905年8月20日，中國同盟會在東京赤坂區成立時，林伯渠就參加了這次會議（林伯渠是1904年春天赴日留學的），是最早的同盟會會員之一，與孫中山的關係非常好。（1925年，孫中山去世，林伯渠扶柩至北京碧雲寺。）
1920年8月，林伯渠經李大釗推薦、陳獨秀介紹，加入了上海的中國共產黨早期組織，成為最早的黨員之一。
第一次國共合作之前，孫中山見共產國際代表以及李大釗、陳獨秀，都是通過林伯渠聯繫的。
林伯渠在軍界的地位也很高。北伐時期，國民革命軍只有八個軍，而林伯渠就是其中第六軍的黨代表（軍長是程潛）。也就是說，在我軍建軍之前，林伯渠就是正軍級幹部了。
林伯渠（左）與毛主席、陳雲在一起
我軍建軍之始的南昌起義，林伯渠也參加了，擔任革命委員會財經委員會主席。林伯渠後來憶及這段歷史：“英雄城市首南昌，火種燎原不可當。棋爭一著局全活，風識正邪帆好張。”
南昌失敗後，受黨中央派遣，林伯渠去莫斯科中山大學學習。1932年冬，林伯渠回國，1933年3月進入江西中央蘇區，先後任中華蘇維埃共和國臨時中央政府國民經濟部部長、財政部部長，並於1934年10月參加長征。
在中央蘇區，林伯渠與徐特立、董必武、、何叔衡、謝覺哉被尊稱為“蘇區五老”。
謝覺哉同志在中央蘇區時期，與徐特立、董必武、林伯渠和中共一大代表何叔衡被尊稱為“蘇區五老”。
蘇區“五老”中之所以沒有吳玉章，是因為吳玉章在1927年大革命失敗後被派往蘇聯學習和工作，當時並不在國內，直到1938年4月才回國到了延安。此時，何叔衡早已犧牲，於是林伯渠、徐特立、董必武、吳玉章、謝覺哉又被稱為了“延安五老”。
“蘇區五老”中，何叔衡年齡最大，他生於1876年，比林伯渠大整整十歲。由於受王明“左”傾路線的排斥，何叔衡與瞿秋白一同留在了根據地，沒能參加長征。在與戰友分別時，何叔衡將二女兒為他編織的毛衣送給了林伯渠，供他在長征路上禦寒。林伯渠特寫了《別梅坑》一詩，其中有四句是：“去留心緒都嫌重，風雨荒雞盼早鳴，贈我綈袍無限意，殷勤握手別梅坑。”
詩，寫得真好。
長征路上，每次行軍，林伯渠總是一手提小馬燈，一手拄著那根從瑞金帶來的柺杖，照顧著同志們。紅軍女戰士李堅貞回憶說：“他的小馬燈從來不個人佔用，一定要把光亮照著大家。”
長征到達陝北後，林伯渠先任中央政府財政部長，繼任陝甘寧邊區政府主席。陝甘寧邊區政府主席一職，林伯渠一直當到了1949年。
1937年9月6日，陝甘寧邊區政府宣告正式成立，林伯渠、張國燾、秦邦憲、董必武、徐特立、謝覺哉、郭洪濤、馬明方、高崗等9人為邊區主席團成員，
林伯渠當選為陝甘寧邊區政府主席，張國燾是副主席。
在極其艱苦的條件下，林伯渠領導邊區軍民，積極貫徹中央的十大政策，建立三三制政權，實行精兵簡政，領導邊區開展大生產運動，進行經濟文化建設，把邊區建設成為模範抗日根據地。
在陝甘寧邊區，懲貪條例得到堅決徹底的執行。1937年至1938年短短兩年時間裡，邊區司法部門就判處了180起貪汙腐化案件。
其中具有典型意義的是肖玉璧案。肖玉璧是老紅軍，作戰英勇，身上有90多處傷疤，可謂勞苦功高。在他養傷期間，毛主席見他骨瘦如柴，特批將每天供應自己的半斤牛奶讓給他喝，為他增加營養。上級認為肖玉璧是有革命覺悟和革命貢獻的可靠老戰士，便安排他擔任清澗縣張家畔稅務分局局長。誰知肖玉璧上任之後蛻化變質，貪汙公款3050元，根據懲貪條例應判處死刑，立即執行。
區高等法院依法判處肖玉璧死刑。而肖玉璧自恃對革命有功，向毛主席寫信，請求念他過去作戰有功，希望能讓他上前線，在戰場戰死。為慎重起見，陝甘寧邊區政府主席林伯渠帶著肖玉璧的信面見毛主席。毛澤東詢問了肖玉璧貪汙的數額，並徵求林伯渠的意見。林伯渠回答道：“目前幹部隊伍貪汙腐化犯罪佔案件總數的百分之五，這股風非剎住不可！”毛主席當場表態：“我完全擁護法院判決。”
《解放日報》專門就此案發表評論：“在‘廉潔政治’的地面上，不允許有一個‘肖玉璧’式的雜草生長！有了，就拔掉它！”
這種語言風格，一看就是出自毛主席之手。
經過林伯渠等人的數年努力，陝甘寧邊區政府成為當時中國最廉潔的政府。
1945年中國共產黨第七次全國代表大會召開，林伯渠當選為中共中央委員和中央政治局委員。
1947年，胡宗南進攻延安，中央讓年歲大的老同志東渡安全地區，林伯渠認為他是邊區主席，應當留了下來與陝北人民共渡難關。於是他就留在了陝北，後於1948年12月12日才告別陝北，抵達了中共中央駐地西柏坡。
胡宗南進攻延安時，林伯渠的兒子林用三當時正在幹部子弟學校讀小學，他以為父親會來接自己轉移。結果父親並沒有來接，而是讓警衛員送來一些邊區幣，並轉告他，要聽老師和大哥哥大姐姐們的話，希望他爭當轉移中的行軍模範。7歲的林用三謹記父親林伯渠的囑咐，硬是用雙腳走完了2000多公里的路程。在行軍途中，他還參加了兒童團，被評為行軍模範。第二年，父子重逢，林伯渠高興地說：你長大了，懂事多了！
1949年9月21日至30日，中國人民政治協商會議第一屆全體會議在北平召開，林伯渠作了新政協籌備工作報告，並當選為政協第一屆全國委員會委員和中央人民政府委員會委員。
在10月1日召開的中央人民政府委員會第一次會議上，林伯渠被選為中央人民政府委員會秘書長。下午3時，他在天安門城樓上主持了中華人民共和國開國大典，成為第一個在開國大典上講話的人。
林伯渠和夫人朱明
1954年9月，在第一屆全國人大一次會上，林伯渠當選全國人大常委會副委員長。
1959年召開的第二屆全國人民代表大會上，林伯渠再次被選為全國人大常委會副委員長。
1960年5月29日，林伯渠病逝於北京，享年74歲。
