顾顺章是中共早期领导人之一，他早年在南洋兄弟烟草公司的制烟厂当工头，从小好勇斗狠的顾顺章曾参加青帮并当选小头目，在上海滩的帮会、流氓斗殴中表现非凡。因为他敢打敢杀，在工人中颇有影响，被当时领导上海工人运动的中共领导看中，1924年顾顺章进入上海市总工会工作，经向警予介绍加入中国共产党。1925年“五卅运动”时，由于在罢工中表现活跃并本领高强，一度担任苏联顾问鲍罗廷的卫士。

1926年被党组织选派与陈赓一起赴苏联学习政治保卫，顾顺章在苏联受训的时间并不长，但他凭聪明机警的天赋，学到一身本领，如化装、表演魔术、操作和修理机械、心理学等都很精。他还擅长双手开枪、爆破、室内开枪而室外听不到声音、徒手杀人而不留痕迹等等，国民党中统老牌特务万亚刚在其回忆录中称他是“全能特务，够称得上大师。在顾顺章之后，特务行列中，无人能望其项背。”

1927年回上海不久，即参加上海工人第三次武装起义，被上海市民代表推选为执行委员和上海市政府委员。任工人武装纠察队总指挥，在党内初露头角。

1927年，蒋介石和汪精卫相继发动四一二事变和七一五事变，中共转入地下活动。8月7日，在八七会议上，顾顺章被选为临时中央政治局委员兼任中央交通局局长，负责中共中央特科的组织和领导工作。1928年6月在中共六大上当选为中央委员。此后长期在上海负责中共地下活动。他协助周恩来领导中央特科并兼任第三科（行动科）的负责人。中央特科下设总务、情报、保卫、通讯四个科。一科负责设立机关、布置会场和营救安抚等工作，科长是洪杨生；二科负责搜集情报，科长是陈赓；三科也叫做红队，俗称“打狗队”，负责镇压叛徒特务，科长是顾顺章；四科负责无线电通讯，科长是李强。

顾顺章为人机警多智、沉默寡言、精干勇敢，他亲自负责领导特科的武装组织——红队，杀死过许多中国共产党党内的叛徒和国民党特务，比如，1929年11月，他曾带人在上海霞飞路设埋伏，枪杀叛徒白鑫。枪杀白鑫后，特科人员迅速撤离，没有留下任何痕迹。白鑫死后，鉴定法医在他头部发现了四个弹孔，法医判断，白鑫同时中了三枪，三颗子弹从不同的部位打进，从同一个部位穿出。顾顺章从此声名远扬，他的公开身份是著名魔术师化广奇。

当时，由顾顺章领导的“红队“极为活跃，惩治了不少叛徒特务，使敌人闻风丧胆，顾也由此在“八七”会议上当上了中央政治局候补委员。当时在江西苏区的毛泽东也是政治局候补委员。然而，随着地位的上升，顾顺章日渐骄纵，生活腐化，吃喝嫖赌，五毒俱全。陈赓曾忧虑地对人说：“只要我们不死，准能见到顾顺章叛变的那一天。”

陈赓的预言不幸一语成谶。就在党中央考虑将顾顺章调离特科，让知识分子出身的康生取代他之际，顾对此有所耳闻，极为不满，顿生叛变之心。同时由于其性格散漫，帮会气息浓厚，周恩来和陈赓等人对其颇不放心，准备将其调离特科领导岗位，以赵容（即康生）代之。