化装成商人的王若飞，辗转来到内蒙，迅速与乌兰夫取得了联系。乌兰夫向王若飞汇报了内蒙古地区党组织和工作开展情况，听取了王若飞传达党对内蒙古地区工作的指示和要求，中央强调当前要着重抓好内蒙古地区的武装斗争。从那时起，乌兰夫除从事党的民族工作、群众运动外，以主要精力组织开展武装斗争。为了组织和加强抗日武装部队，培养党的骨干力量开展并坚持斗争，乌兰夫经张家口同盟军第41军政治部副主任罗念冰（中共党员）介绍，到41军驻包头的部队举办了干部训练班，培养政治工作干部。
王若飞在内蒙古地区的活动引起了国民党军警的警觉，他在包头不幸被捕，乌兰夫的处境更加危险。所幸的是，乌兰夫几次遇到敌人追捕，都因为他的机智、高度警惕性和群众的帮助化险为夷。此时的乌兰夫身兼重任，多方设法营救王若飞，恢复内蒙古地下党的工作，积极打通连接中国北部、外蒙古到莫斯科的通道。这条通道对于中共和第三国际的联系至关重要，刚从苏联回国的几年，乌兰夫每年都要沿这条通道去蒙古首都乌兰巴托向第三国际东方支部汇报工作。当时的交通条件极差，工作又是秘密进行的，两三千里的行程，他只能和拉骆驼的人一块儿走，来回要走两三个月。一路上翻山越岭，穿过荒无人烟的戈壁滩，走过一望无际的大草原，工作非常艰苦。