在这种情况下，为了加强对冀鲁豫、冀南的统一领导，1943年11月，党中央决定成立北方局冀鲁豫分局，又称平原分局，领导冀南、冀鲁豫两个区党委。任命黄敬为书记，宋任穷为组织部长，李菁玉为宣传部长，张霖之为民运部长兼组织部副部长，张玺为秘书长。
此后不久，为加强陕北的军事力量，保卫延安，冀鲁豫军区司令员杨得志奉中央军委命令，率冀鲁豫军区第三团、第十一团、第十六团、第十九团、第三十二团及回民支队开赴陕北，军区工作由杨勇主持。
至当年春天，经过半年实践，冀鲁豫、冀南两个区的党委一致建议，并由北方局批准，1944年5月11日，冀鲁豫和冀南两区合并，两个区党委机关取消，各地委直接由分局领导；设冀南、冀鲁豫两个工作委员会，作为协助分局研究、监督、检查两地工作的专门机构，由张策、张霖之分别任书记。
两行署合署办公，联合下达指示、规定、法令等文件。冀鲁豫分局领导11个地委和水东地委，各地委书记依次为：邓存伦、杜义德、李福祥、乔晓光、李尔重、赵一民、许梦侠、段君毅、张国华、刘星、潘复生、李中一。