1924年2月，英国与意大利先后正式承认苏俄并与之建立了外交关系。这就减轻了北京政府承认苏俄所承受的列强的压力。北京政府表示可以先行承认再开正式会谈，但在正式宣布承认之前，双方代表先通过非正式会谈议定一个解决悬案的大纲，待宣布承认后，双方立即召开正式会议来解决悬案。加拉罕表示同意。至1924年3月中旬，双方达成《中俄解决悬案大纲协定》等相关草案。王正廷和加拉罕分别在草案上签了字。
但当北京政府内阁会议审议王正廷草签的大纲协定时，又出现了一场不小的波折。外交总长顾维钧等对协定草案中有关外蒙等问题的具体细节持强烈反对意见。北京政府据此拒签协定。谈判再度陷入停顿。
北京政府的拒签之举，遭到全国各界民众的指责。各团体纷纷发表声明，主张无条件承认苏俄。地方军政大员如吴佩孚、刘镇华、孙传芳、萧耀南等亦致电北京政府，主张立即签订中俄协定。在各方的压力下，北京政府谋求重开谈判。苏俄方面亦不愿谈判就此破裂。双方经过秘密磋商后，终于达成一致意见，并于1924年5月31日正式签署《中俄解决悬案大纲》及相关外交文书。中俄邦交恢复。
《中俄解决悬案大纲协定》的主要内容是：