Igennem 1920'erne blev de kriminelle koncentreret i bander. Op til 1927 var banderne smeltet sammen i The Green Gang, som havde 100.000 medlemmer. The Green Gangs indflydelse på hele byen voksede meget efter kuppet i april 1927, fordi The Green Gang spillede en helt central rolle i det og fordi organisationens leder Du Yuesheng var ven med Chiang Kaishek.

The Green Gang kontrollerede opiumshandelen og en meget stor del af spillebulerne og natklubberne. Hertil opkrævede banden "beskyttelsespenge" af mange butiksejere og organiserede systematisk kidnappinger for at få løsepenge. The Green Gang spillede desuden en stor rolle i rekrutteringen af arbejdere og havde også meget indflydelse på arbejdslivet. Typisk var virksomhedernes dørvogtere og formænd medlem af organisationen. Opkøb af børn til børnearbejde og prostitution hørte også til The Green Gangs arbejdsområde.

Når The Green Gang kunne blive så succesfuld skyldtes det i høj grad, at de koncessionsområdernes hvide herskere nød godt af organisationen. I den franske koncession modtog ledende franske embedsmænd meget store summer i bestikkelse. Koncessionen benyttede også gangsterne som politi, og flere gangsterledere var med i koncessionens bystyre eller havde topposter i administrationen.

Du Yuesheng havde også gode forbindelser til den amerikanske ledelse. Op til Chiang Kaisheks kup mod kommunisterne og fagforeningerne den 13. april 1927 gik Du til den amerikanske administration og fik lov til at lade sine gangstere operere i den internationale zone mod at de til gengæld udryddede kommunisterne.

Efter 1927 steg Du Yueshengs magt yderligere, og han blev i 1930'erne en af Kinas store forretningsmænd.