1920年夏至1921年春，随着马克思主义在中国的广泛传播，中国工人运动的蓬勃兴起，作为两者结合产物的中国共产党早期组织，在上海、北京、武汉、长沙、济南、广州以及赴日、旅欧留学生中相继成立，建党条件基本成熟，召开全国代表大会也在建党骨干中开始酝酿。

1921年3月，李大钊著文公开呼吁创建工人阶级政党。他指出：“中国现在既无一个真能表现民众势力的团体，C派（指共产主义派）的朋友若能成立一个强固精密的组织，并注意促进其分子之团体的训练，那么中国彻底的大改革，或者有所附托！”

1921年6月初，共产国际代表马林和共产国际远东书记处代表尼科尔斯基先后到达上海，并与上海的共产党早期组织成员李达、李汉俊建立了联系。李达回忆说：“经过交谈，他们建议我们应当及早召开全国代表大会，宣告党的成立。于是由我发信给各地党小组，各派代表二人到上海开会。”

隐秘行动

李达和李汉俊从马林带来的共产国际给中国革命的经费中，给每一位代表拿出100元当做路费。各地小组在接到上海小组的通知后，多数没有进行代表选举，有的由领导人指定，有的由协商产生，共选出13位代表：毛泽东、董必武、邓恩铭、李达、包惠僧、张国焘、周佛海、何叔衡、陈潭秋、王尽美、李汉俊、陈公博、刘仁静。