戴笠在中国城区沦陷之前逃到了法租界海格路的办公处。但他力图效仿成为爱国典范的团指挥谢晋元在1932年捍卫四行仓库的壮举，希望重整旗鼓，奋勇保卫南市。可是他在上海的特务们有许多都放弃了他们的指挥岗位而躲到外国租界去了。上海站站长周伟龙向戴笠保证，他会在法租界里建立一支潜伏区的敌后队伍，来骚扰敌人。戴笠还命令他的同乡姜绍谟组织地下间谍单位，在日本人占领上海后收集和传递情报。
三支队分配给上海总工会主席朱学范（他的任命曾经被军委会否决过），以保持对劳工的控制。其他劳动阶层的组织有陆京士领导的邮政和海员支队，还有一个码头工支队。
上海龙华烈士陵园原为国民党淞沪警备司令部旧址为安全起见，这些间谍组织得完全与别动队分开，它们只通过龚仙舫向戴笠直接汇报。龚曾是特务站上海站的人事负责人，现在被任命为特务处与上海之间的主要联络人。但下面会讲到，这些秘密地下支部要么被日本反间谍机构破坏和粉碎，要么成了为傀儡政府工作的汉奸秘密特工机构。而且，戴笠为了资助这些地下行动，在围绕毒品走私的地下中日关系的错综复杂的网络里越陷越深。
【注】上海龙华烈士陵园原为国民党淞沪警备司令部旧址和龙华革命烈士就义地。
喜欢指责的人后来把别动队形容成一群“乌合之众”，无能力抵抗日本人的正规军。不过，杜月笙的干将们，如陆京士和水祥云，还是暂时放弃了他们“阴暗角落里的耗子”般的秘密角色，各个衣冠楚楚，俨然一副时势英雄的模样。但他们的光荣并不长久。别动队本来应当卫护苏州河南面梵王渡、曹家渡直到日晖港一带，但日本人一向苏州河南岸发动进攻，他们便溃退了。
淞沪别动总队由五个支队组成，每个支队有五百到三千人，总八千名民兵。每个支队又相应分成三个队，每个队又再分成中队、小队和股。股及其以上的队长们都是戴笠特务处的特务或者衡社的骨干。
别动总队的普通成员来自社会各界：上海商店的店员、帮会的地痞流氓、国民党溃兵、上海沦陷后倒闭工厂的失业工人和工会成员等。此外，除了吸收新成员，别动队还兼并了前保安队的单位，如重组南市纵队。9月初，领导别动队第五支队的陶一珊，被南京任命为上海市所有训练中心的头目，其办公处设在淞沪警备司令部内。
随着日本军队渐渐进入上海市中国区域，抵抗运动的主要领袖纷纷离沪。1937年11月，市长俞鸿钧、宋子文、钱新之和王晓籁都偷偷去了香港。杜月笙在那里与他们会合，并很快为蒋介石组织起地下情报行动，其经费部分来自他和戴笠建立的名叫“港记公司”的麻醉毒品工业。与此同时，日本人一占领上海的中国管辖区，他们的特务机关（tokumu kikan）就开始以这个被分割的城市为据点，在“国统区”和沦陷区之间迅速扩张他们自己的毒品走私。
上海别动队在日本军队面前溃不成军。大多数武装单位逃往苏皖边界，尤其是屯溪和歙县等地，投奔了前湖南土匪陈士虎这类的军阀，或者当了“游而不击”的游击队员；要不就是被戴笠组织起来加入了最终由美国人武装的“忠义救国军”。别动队最后一支分队于1938年2月1日从上海撤出时向上海报界发了一封告别信，说他们离开租界是“为了外国租界居民的安全”。那时戴笠已经逃离上海，经香港到了长沙，“苏浙行动委员会”彻底垮了。上海的战争成了一场地下行动，而接下来的三十四个月，直到日本偷袭珍珠港，恐怖活动在租界里秘密展开。戴笠又一次大有所得。
陶一珊上校的工商界人士组是穿黄卡叽制服、配毛瑟枪和手枪的支队之一。二支队驻扎在南市鲁班路东亚体育学校，奉命帮助警察维持法律和秩序。但据恽惠芳（他因为在1932年的恐怖活动而在英租界的警察中闻名）的证词，他的别动队支队的目的，是“仅仅捉捕汉奸”，据说这些汉奸被移送到了附近的中国警察局。
