４日黄昏，叶挺、项英率领新四军军部、教导总队、特务团、第一、第二、第三支队的各团共九千余人，告别驻扎了３年的皖南，在一片悲壮的歌声中，冒着大雨，由云岭起程北移。蒙蒙细雨中，叶挺望着这支浩浩荡荡的队伍，不知能否安全转移，心情十分沉重，随口朗诵出“雾里美人云里山，层峰直上三千丈。凭崖勒马往前看，出峡蛟龙几时还”的诗句。
雨天的路特别难走，走了两天才离开云岭二十多里，而且部队已累得疲倦不堪。无奈，军部只好下令部队在茂林休息一天，次日再继续北进。结果，当日黄昏，新四军侦察部队发现周围山上有可疑情况，马上报告军部。新四军军部立即召开紧急会议研究对策。叶挺军长主张改变原定行军路线，不从东南翻山过丕岭去旌德，而应从西南樵山岭去太平，再向东南进军转移北上，以打乱敌人的部署，甩掉敌人。然而，项英却不同意这个意见，仍坚持按原计划行军。结果，部队于６日到达丕岭脚下时，便遭到国民党第四师的阻击，第一四四师也前来拦截，双方即展开了激烈的战斗。新四军官兵对国民党顽固派的阴谋早已无比愤慨，见敌人围了上来，一个个同仇敌忾，奋勇杀敌，这些顽军平日里只知欺压百姓，怎经得新四军的冲杀，不一会就被杀得血肉横飞，四处逃窜，新四军一直追击到三溪河边，并顺势翻过丕岭。过丕岭后，新四军各纵队按原定计划三路继续向旌德方向前进，拟于星潭会合。