租界本来只有华人五百，都是些仆人杂役，小刀会暴动甫起，租界一夜之间就涌进两万本地人，其后太平军兵锋横扫苏南、浙北，当地绅商纷纷逃入原本他们不屑进又不敢进的夷场，租界人口暴涨至五十万，地价有上涨百倍之多者，随后租界内的官方行政系统公共租界的工部局、法租界的公董局相继成立，警务处及下属巡捕房也随之建立。
太平军失败后，上海进入了一个平稳展期，各种社会势力重新生、组合、均衡，正如后世毛太祖所说，秘密社团是政治和经济斗争的互助团体，其主要成员是失了土地的农民和失了工作机会的手工业工人，于是洪门和小刀会被消灭后，一股新的帮会力量正在无业游民间悄悄地生长。
说到上海新的帮派势力生长，其最大的推波助澜当属赫赫有名的洋泾浜。
洋泾浜原本是上海黄浦江一条支流的河名，它东引黄浦江水经八仙桥西流，北通寺浜、宋家浜，西通北长浜，西南通周泾，它虽是一条不起眼的小河浜，却有着四通八达的便利。
自小刀会起义失败之后，上海公共租界和法租界的人口生了极大的膨胀，这两处租界对生活物资的需求也日益增加，于是川沙、南汇、奉贤等郊县的农民摇着小船，满载着农产品从浦江而来，泊在洋泾浜的郑家木桥畔，与两岸的居民交易。
洋泾浜是公共租界和法租界的界河，因此形成了三不管的局面，最开始时有一些上海话称之为小瘪三的混混在此乞讨、敲诈甚至抢劫，来做生意的农民大声呼救，若是法租界的巡捕赶来，这些小地痞就踏上郑家木桥逃到公共租界，反之，则从公共租界逃到法租界。
渐渐地，流浪儿、浪荡子、青皮流氓会聚于此，租界警方也曾合力遣散，甚至用拖船将他们流放到浦东，但没多久就恢复原样，而且愈混乱污秽，简直是盗贼渊薮，因此郑家木桥小瘪三成为了上海人家喻户晓的俗语，用来指称那些无耻无畏又屡教不改的小混混。
此时郑家木桥上的小瘪三还不能称之为青帮，这些人不过是占据了洪门和小刀会被官府打压的空隙，三五成群的汇聚在一起成立新的帮派，而青帮原本的势力范围是以淮安府清江浦为中心，沿运河两岸向北延伸，成员以苏北、安徽、山东人为主，两者并没有直接的联系。
随着海运事业的蓬勃展，内6的漕运已经没有了盈利的空间，于是这些靠漕运为生的青帮分子便将目光放在了越来越繁华的上海。
当时的上海生机盎然又鱼龙混杂，许多富商求人身保障，都以加入青帮为荣，连反清的革命党为了更有利于安全地工作，也纷纷入会拜师，陈其美、蒋志清就是在辛亥革命前夕一起加入的青帮，他们的师父即是大字辈的张仁奎。
不过，作为一个像洪门这样已经存在了数百年的大帮派，官方的打压自然是不可能让其销声匿迹的，粤联社就是在夹缝中由上海洪门演变而来的。
粤联社虽然在低调中躲过了朝廷的打压，但渐渐的失去了在上海滩立足的根本，于是为了生存他们不得不将堂口搬迁到了与上海县相邻的奉贤县。