随着***主义在中国的传播,各地**党早期组织纷纷建立。早在1919年9月,李汉俊就萌发了在中国建党的思想。
1920年初,他和李大钊、陈*秀等开始着手组建中国**党的工作。
同年5月,他和陈*秀等组织成立了“上海***主义研究会”。8月,他和陈*秀等又发起成立上海**党早期组织。这是中国大地上的**个**党早期组织,成为中国**党的发起组织和联络中心。同年12月,他成为代理书记,负责全面领导工作。
李汉俊还负责帮助各地建立**党早期组织,并担任联络工作。1920年夏他写信给董必武、张国恩,希望武汉也建立**党组织。董必武曾回忆说:“1920年,李汉俊这个从日本归国的学生,我的***主义老师,在上海帮助建立中国**党,并到武汉来同我商量,我决定参加,并负责筹组党的湖北支部。”