在路遙的小說裡，寫到了他經歷過的艱苦生活。
他在陝北農村出生，7歲時被父親送到伯父家做養子。他永遠記得那一天，身上穿著破爛的衣服，腳上是一雙新鞋，穿起來太難，把腳硬塞進去，鞋子的內襯都弄破了。穿那雙鞋走路腳太痛了，父親只好撿了路邊的舊草鞋給他換上。他們走了近百里路，到了伯父家。
他回憶說：“伯父也是農民，沒有孩子，我到了這裡可以上學。上學很艱難，很窮。好在學校離家五里路，可以回家吃飯。當時，衣衫襤褸，褲子破了不敢到別人面前，有人惡作劇，專門把我拉到人群裡，惹得鬨堂大笑，我很傷心。”
在他的小說裡，這些事情和後來在同學救助下讀完中學的經歷，通過不同人物的故事情節表現出來。在他所在的農村，鄉下孩子能讀到中學非常稀少，這給他的命運帶來好的轉變。他中學畢業回鄉，在小學教書。
“後來，喜愛看書，看書是一貫的，範圍廣，讀了許多其他的書，接觸了一些文學著作，感到在這方面有才能，試著寫一些東西，自尊心建立起來。”路遙說，他先是寫了一些詩歌習作，然後去了縣城，“在縣城做過零星的工作，做過宣傳工作，縣劇團當過編劇，宣傳過毛主席著作。1973年推薦上了大學，是工農兵學員，那些大學都不要我，最後延安大學收留了我，學習3年，到《延河》編輯部，一直到1982年，專業創作。”
到了1982年，他寫了中篇小說《在困難的日子裡》。這篇小說以“我”馬建強為主人公。生活困境中的“我”在一些同學的幫助下，戰勝了飢餓，完成了學業，還表現出正直堅毅、自尊自愛、樂於助人的美德。路遙寫的求學少年在飢餓中的生理反應，以及因貧窮被同學欺負的心理感覺，都特別真實和深入，因為都是他經歷過的。這部小說成功了，獲得了1982年《當代》文學中長篇小說獎。
也是在1982年，他的另一部中篇小說《人生》，獲全國第二屆優秀中篇小說獎，改編成同名電影后轟動全國。
這部小說，內容寫的是他熟悉的城鄉結合部的人和事，寫作動機卻來自他讀延安大學時的感悟。“自己學俄羅斯文學，歐洲文學史，中國文學史，這些比較可靠，是些代表性作品。沿著這些，自己找書讀，閱讀了各個時期大部分東西。”路遙說，“我自己建立了嚴密的學習計劃，學習靠自覺，這很重要。我認為人的覺悟期越早越好，當然有些人終生不悟，這是個別情況。那時侯就思考這樣一些問題，我們應該成為什麼樣的人？怎樣生活？混，很容易，但我不願意那樣，自己對自己負責。”
那部《人生》中的主人公高加林，就是一個自己對自己負責的青年人。這個形象很生動，影響了當時成千上萬的青年讀者。許多年以後，企業家馬雲還很感慨，“18歲時，我是蹬三輪車的零工，是《人生》改變了我的人生。”
有了名氣的路遙，仍然堅持對自己負責的人生信念，不顧一切地投入到《平凡的世界》的創作。苦苦熬了6年，寫了上百萬字，他要反映1975—1985這十年間全景式的社會生活，終於獲得成功。
他說，作家這種勞動並不是特殊的勞動，任何人都要對生命抱有正確的態度，作家是這樣，農民也是這樣。一個人的價值不在於幹什麼，而是在自己的行業中有沒有幹好。我如果當木匠，全力以赴，也會是個好木匠。
