清时，曾任扬州知府的尹会一到江南视学，请方苞推荐人才，方苞向其推荐了两人，海峰先生刘大櫆就是是其中一个。为了给刘大櫆找工作，平时很少给人写信托人的方苞屈身写了数封书信给当时的安徽巡抚魏定国、双学使(庆公)。而当1749年，方苞去世时，刘大櫆写文祭祀，其中说：“不材如櫆，举世邪揄。公独左顾，栽植其枯。”“公独左顾”，可见方苞对于刘大櫆的关心！
1725年，第一次进京的刘大櫆就拜访了祖籍桐城、出生于南京的方苞。方苞品阅了刘大櫆的文章，夸赞道：“如苞何足算哉！邑子刘生乃国士尔！”在方苞眼中，刘大櫆俨然是韩愈、欧阳修一流的人物。由于“南山集案”，方苞出言十分谨慎，交友小心。1735年，在雍正南书房供职的方苞奉命推荐人才参加博学鸿词科考试时，他只推荐两人，刘大櫆就是其中之一。当听说刘大櫆考试过关却被张廷玉无端拿下，他顿足捶胸，叹息不已。方苞去世后，刘大櫆写祭文提到此事时写道：“櫆试而蹶，公每不愉。愀然累日，顿足长吁。”
在科举道路上，刘大櫆是一个不幸的人。他16岁到安庆参加秀才考试，就得到吴士玉的赏识。1725年至1733年，从第一次进京到一住9年，参加了三次科举考试，中了两次副榜。1734年至1736年，又两次前去北京参加乡试，却均遭罢黜。最令人扼腕的是，他参加博学鸿词科考试时已经考中，却被同乡主考官张廷玉拿下。此前，刘大櫆曾在桐城张家，为张廷玉的侄子教书。刘大櫆终身未能得科举之名，张廷玉也因此饱受清议。虽然张廷玉事后推荐刘大櫆参加经学考试以弥补，但刘大櫆又未能被录取。
而在家庭生活上，由于事业不顺，屡遭打击。刘大櫆在京城一住九年，三个幼儿相继夭折了；其妻子不堪久别，兼之三个幼儿相继去世，因此在刘大櫆去京城八年后，在家中去世。九年后，心力交瘁的刘大櫆回到家中，是邻居凑了一些东西，供他吃了晚饭。晚年，他以哥哥的孙子为自己的孙子，延续香火。
刘大櫆一生过十分清贫生活。他湖北做幕僚时，冬天仍然穿秋衣。晚年时，他在徽州任黟县教谕，勉强有了稳定的生活。七十四岁时，他以病老辞官而离开徽州，返回枞阳定居，因懂医和精神上的追求，活到了八十三岁。1779年十月初八，刘大櫆在枞阳的家中去世。姚鼐在祭文中说：“百世所述，当世则穷。”意思是说，刘大櫆一定会流芳百世，后人会述学其诗文，但刘大櫆自己生活在世上的时候，却处处不得意，过着四处碰壁的贫苦生活。
桐城派三祖中，方苞年长刘大櫆30岁，而刘大櫆则年长姚鼐33岁。三人中，刘大櫆以师事方苞，而与姚鼐相交莫逆，同时也是其老师。在桐城派的发展历史上，起到了承上启下的关键作用。
晚年，刘大櫆在安庆书院写下《论文偶记》，主张文章的节奏、神气，继古开来，至今在中国文章史上占有重要的地位。他主张写文章贵奇，符合戴名世的写文章的思想；他主张文章贵简，符合方苞的写好文章的思想；他主张文章贵变，与姚鼐的思想相接。刘大櫆的文章写作法，丰富了桐城派的内容。如果没有他本人关于文章的范文，没有他本人关于文章写法的一系列总结，尤其是文章节奏、神气的总结，就没有刘大櫆在桐城派中的地位。