1921年6月3日，馬林以共產國際執委的身份到達上海，與俄共遠東區書記處的尼克爾斯基會合，並面見了李達、李漢俊，與李大釗、張國燾進行商議關於召開中國共產黨全國代表大會的事宜。隨後，李達、李漢俊函告各地共產主義小組，通知每地速選兩名代表趕赴上海開會，還給每人寄去100元路費，這些錢是共產國際提供的。
延安五老之一的謝覺哉在日記記下了毛澤東與何叔衡6月29日夜晚悄悄離開長沙趕赴上海的情景：“午後6時叔衡往上海，偕行者潤之，赴全國○○○○○之招。”這五個圓圈，謝覺哉後來解釋說是“共產主義者”，當時他怕洩露信息，故以圓圈代替。如果坐船毛澤東應該二、三天可到上海，7月23日才開幕，毛澤東早到了20多天，所以他在博文女校住了幾天之後，看到代表們沒到齊，便到杭州、南京轉了一圈。
會議原定7月20日召開，但是各地代表直到23日才全部到達上海。出席會議的代表有13人，他們是：湖南毛澤東、何叔衡，湖北董必武、陳潭秋，濟南王盡美、鄧恩銘，上海李達、李漢俊，北京張國燾、劉仁靜，廣州陳公博，日本留學生周佛海，包惠僧（陳獨秀派出的個人代表）。
23日晚，代表齊聚李公館附近的博文女校二樓舉行中共一大的開幕式。會議由張國燾主持，他先講了會議的籌備情況及議題。馬林致辭，對中國共產黨成立表示祝賀，劉仁靜和李漢俊任翻譯。馬林分析世界形勢，說明中共成立的重要性，介紹他在爪哇從事工運的經驗，建議成立中共工運組織，滔滔不絕，講了4個小時，一直講到深夜。
開幕式和次日的會議在博文女校，以後的會議在李漢俊租住的寓所——李公館召開的。
陳潭秋回憶：“七月底大會開幕了，大會組織非常簡單，只推選張國燾同志為大會主席，毛澤東同志與周佛海任記錄。就在博文女校樓上舉行開幕式……”。24日召開第二次會議也是在博文女校召開的，主要內容是，各地代表報告工作情況，交流工作經驗。
馬林和尼克爾斯基是外國人，太惹眼，所以他們不是每次會議都出席。23日他們出席開幕式，一直到30日晚舉行會議時，才請他們參加。正當馬林到李公館發表演說時，晚8時許，有個穿長衫的陌生人來到“李公館”東瞧西望，說要找社聯的王主席。馬林於1921年4月在奧地利維也納領取前往中國簽證時被捕，獲釋後他的行蹤處於各國警方嚴密監視之中。作為職業革命家，馬林在李公館見到陌生人，自感身份暴露，建議緊急休會。
情況危急，必須換個地點開會。有人建議去上海找個旅館繼續開會，周佛海提議到杭州，這些提議都被否決。負責會務工作的李達夫人王會悟是嘉興人，說嘉興比杭州近（僅90公里），南湖遊人少，可到南湖租一條遊船開會。
8月2日，王會悟先坐火車到嘉興打前站。3日清晨，其他代表坐火車於10點多到達嘉興，11點左右南湖會議正式開始，李漢俊、陳公博、馬林、尼克爾斯基未出席，南湖會議出席代表人數為11人。會議就《中國共產黨第一個綱領》、《關於當前實際工作的決議》作進一步的討論，下午1時前，南湖會議通過了這兩個文件。
午餐過後，代表們討論《中國共產黨成立宣言》，這個宣言有1000多字，是上海小組在起草的，規定了共產主義者的理想、目的和階級鬥爭狀態等內容。大體抄襲《共產黨宣言》的語句，如第一句是“一切至今存在過的歷史，是階級鬥爭的歷史”。宣言最後以“工人們失掉的是鎖鏈，得到的是全世界”一句話結束。
8月3日下午6點多，天氣轉睛，南湖會議完成了全部議程，選舉了中央領導機構。經過與會代表的無記名投票，大會選舉陳獨秀、張國燾、李達組成中央局，選舉陳獨秀擔任中央局書記，張國燾負責組織工作，李達負責宣傳工作。
1921年7月23日至8月3日，在上海李公館的會客廳，在嘉興南湖的紅船上，一個以馬克思主義為指導、一個勇擔民族復興歷史大任、一個帶領中國人民創造人間奇蹟的新型政黨——中國共產黨應運而生，這是現代中國社會開天闢地的大事變。中國共產黨的建立，為中國點亮了前進的燈塔，使中國人民有了團結奮鬥的主心骨。
