日军进攻香港后，广东人民抗日游击队迅速抽调第三、第五大队精干力量，挺进香港地区开展对敌斗争。1942年1月，在港游击队员达百余人。起初，这支队伍收集英军溃逃时丢弃的武器弹药及军用物资，以港九人民抗日游击队的名义，发动和武装群众，打击日、伪军，铲除汉奸，肃清土匪，很快就在新界、九龙开辟了新的敌后游击据点。
1942年1月，南方工委副书记张文彬在宝安白石龙村主持召开广东人民抗日游击队（2月改称广东人民抗日游击总队）干部会议，提出坚持在新界地区开展游击战。2月中旬，港九大队在西贡黄毛应村正式成立。蔡国梁任大队长，陈达明任政治委员，鲁风任副大队长，黄高阳任政训室主任。港九大队是广东人民抗日游击总队辖下五个大队之一。1943年12月东江纵队成立后，港九大队归东江纵队司令部领导，改称港九独立大队。同年冬，改由东纵第二支队领导，恢复港九大队名称。后又隶属东纵江南指挥部领导。日本投降前后，恢复港九独立大队的名称，复归东纵司令部领导。
港九大队大队长蔡国梁
政委陈达明
港九大队成立后不断壮大，活动范围覆盖新界和港九市区，成立大屿山、沙头角、西贡、海上、市区、元朗6个中队，另有一个留守处和各区民运工作队。
正在野外行军的港九大队队员
港九大队针对港九地区敌强我弱以及活动回旋余地小的特点，采取机动灵活的战术，开展城市游击战和海上游击战。
1943年底，港九大队成立市区中队，方兰任中队长。市区中队在敌人严密控制的港九市区，采用“纸弹战”方法，通过派发、张贴各种传单和发行《地下火》刊物，对敌人展开强大的政治攻势，揭露敌人的暴行，宣传国内外反法西斯战争的形势，同时发动群众展开形式多样的斗争。游击队还建立沙田、坑口、沙头角、上水、元朗数支短枪队，活跃在日军驻扎的西贡、大埔、上水、元朗等圩镇及九龙市区，伺机打击日军，惩办汉奸、特务。以黄冠芳为队长、刘黑仔为副队长的沙田短枪队是其中的佼佼者。被誉为神枪手的刘黑仔成为名扬港九的传奇英雄。
日军对游击队在港九市区开展的武装斗争极为惊恐，一面在港九外围构筑工事、增加兵力以加强防御，一面调动兵力进行频繁的“扫荡”。1944年2月，日军出动1000多人，陆海空配合对沙田、西贡地区进行持续17天的“扫荡”。游击队与群众协同作战，巧妙与敌人周旋，短枪队进入九龙市区，处决日军九龙宪兵司令部的林通译；成功袭击启德机场，炸毁一座油库和一架飞机。市区中队也顺利爆炸九龙旺角第四号铁路桥，迫使开赴市郊“扫荡”的日军回撤。
港九大队利用香港海岸线漫长、港湾小岛众多的特点，发动广大渔民，积极发展海上抗日武装。1942年2月，港九大队建立海上队。经过一年多的发展，海上队人数达百余人，随后以海上队为基础建立海上中队。海上中队活动范围从原来九龙、西贡附近的海域逐步扩展到大鹏半岛。中队破坏日军海上运输线，伺机打击敌人的海上力量，保护广东抗日游击队的交通运输线和往来客商的安全。其中取得重大胜利的是1944年8月的黄竹角海战。是役海上中队夜袭日军海上挺进队，击沉敌船3艘，毙俘38人，缴获轻机枪2挺、其他枪支29支。大屿山中队海上小队与元朗中队海上小队也互相配合，在珠江口海域灵活打击敌人。
据不完全统计，港九大队海上部队共缴获敌船43艘，击沉敌船7艘，毙俘日军88人，淹死日军40多人，毙俘伪军约150人，缴获轻机枪5挺、步枪50支、山炮1门及其他物资一批。
