1921年6月初，共产国际代表马林和共产国际远东书记处代表尼克尔斯基先后到达上海，并与上海的共产党早期组织成员李达、李汉俊建立了联系。经过几次交谈，他们一致认为应尽快召开全国代表大会，正式成立中国共产党。李达、李汉俊同当时在广州的陈独秀、在北京的李大钊通过书信商议，决定在上海召开中国共产党第一次全国代表大会。

国内各地党组织和旅日的党组织共派出13名代表出席党的第一次全国代表大会。他们是：上海的李达、李汉俊，武汉的董必武、陈潭秋，长沙的毛泽东、何叔衡，济南的王尽美、邓恩铭，北京的张国焘、刘仁静，广州的陈公博，旅日的周佛海，以及由陈独秀指定的代表包惠僧。他们代表着50多名党员。共产国际代表马林和尼克尔斯基出席大会。当时，陈独秀任广东政府教育委员会委员长，正在筹款办学。李大钊除任北京大学图书馆主任、教授外，还兼北京国立大专院校教职员代表联席会议主席。两人均因事务繁忙，未出席会议。

中国共产党第一次全国代表大会于1921年7月23日晚上开幕。会场设在上海法租界望志路106号（现兴业路76号）李汉俊之兄李书城的住宅内，后因受到法租界暗探、巡捕的骚扰，转移到浙江嘉兴南湖，在一艘游船上召开了最后一天的会议。

党的一大通过的中国共产党纲领，确定党的名称为“中国共产党”，规定党的纲领是：革命军队必须与无产阶级一起推翻资本家阶级的政权;承认无产阶级专政，直到阶级斗争结束，即直到消灭社会的阶级区分；消灭资本家私有制，没收机器、土地、厂房和半成品等生产资料，归社会公有；联合共产国际。纲领明确提出要把工人、农民和士兵组织起来，并确定党的根本政治目的是实行社会革命。

纲领还包含属于党章性质的一些条文。关于党员条件，规定凡承认本党党纲和政策，并愿成为忠实的党员者，经党员一人介绍，均可接受为党员，但在入党前必须与企图反对本纲领的党派和集团断绝一切联系。新党员入党后成为候补党员，接受党组织的考察，考察期满经党员讨论和党组织批准，才能转变为正式党员。党纲还规定，在全党建立统一的组织和严格的纪律；地方组织必须接受中央的监督和指导;在党处于秘密状态时，党的重要主张和党员身份应当保守秘密。

党的一大通过的纲领，表明中国共产党从建党开始就旗帜鲜明地把实现社会主义、共产主义作为自己的奋斗目标。

党的一大考虑到党员数量少和地方组织尚不健全的情况，决定暂不成立中央执行委员会，只设立中央局作为中央的临时领导机构。大会选举陈独秀、张国焘、李达组成中央局，选举陈独秀担任书记，张国焘负责组织工作，李达负责宣传工作。