1945年10月10日，中国共产党与国民党政府在重庆谈判，签署了《政府与中共代表会谈纪要》（“双十协定”），中共代表同意让出广东、浙江、苏南、皖南、皖中、湖南、湖北、河南等八个解放区，并将以上地区的部队撤至陇海路以北及苏北、皖北地区。为此，东江纵队等广东人民武装准备北撤。
    1946年1月10日，中共代表与国民党政府代表正式达成停止军事冲突协议，双方同时颁布于13日午夜生效的停战令。为监督停战协定的贯彻执行，由重庆军事三人会议派出代表，在北平组成军事调处执行部（简称“军调部”），调处随时可能发生的军事冲突。中共代表为叶剑英。为了制止广东的内战，履行广东人民武装北撤的诺言，中共中央于1946年初，任命原拟回南方负责党的工作的方方，为北平军事调处执行部第八小组中共首席代表，到广州与国民党当局进行谈判。党组织还先后派曾生（东江纵队司令员）、尹林平（东江纵队政委）、庄田（琼崖独立纵队副司令员）以华南人民武装代表的身份，参加谈判，以解决部队北撤的问题。
    1月25日，军调部第八小组中共代表方方少将、美方代表米勒上校、国民党代表黄维勤少校等抵达广州，执行调处和谈判任务。国民党广东当局对第八小组的到来，采取不合作的和阻挠的态度。1月26日，广州行营发言人发表谈话，称“粤桂两省一区，除发现零星土匪散兵抢劫外，从未发现中共部队”，表示对第八小组的到来“甚感惊诧”。2月5日，广州行营主任张发奎举行记者招待会，说什么“从未奉到辖区有中共部队番号、驻地及驻军数目之通知，各方亦无此种情报”；在广东只有“专事扰乱治安者，仅属地方零星土匪”，“不能承认其为军队”。并说：广东只有“土匪”，不存在执行停战令问题。国民党东江当局还密电其部属，谓“查委座停战命令其执行范围，仅限于长江以北之地区，本辖区为维持地方治安清剿土匪，仍应继续加紧实施，依限肃清为要”。他们一面拒绝调处，一面加紧调集大批部队，猛烈进攻中共领导的武装。仅进攻惠东宝解放区的军队就达7个师之众，其中包括全部美械装备的新一军。国民党军队企图迅速占领该区，消灭中共武装，以证实他们所宣扬的“东江无中共军队”的谎言。
    为挫败国民党当局的阴谋，方方在第八小组到达广州后举行的第一次预备会议上，严正驳斥国民党否认广东中共部队的谎言，并立即致电北平军调部，请制止国民党军队对中共部队的军事进攻，同时向国民党广东当局提出了强烈抗议。方方等还摆脱国民党特务的监视和阻挠，通过各种渠道，与中共广东区党委取得联系。广东区党委坚决贯彻“双十协定”的精神，一面组织部队做好北撤的各项准备工作；另一面组织和指挥部队坚持自卫斗争，反击国民党的军事进攻。
    党组织还运用社会舆论，对广东当局进行针锋相对的斗争。2月13日和15日，延安《解放日报》和重庆《新华日报》先后发表《华南抗日游击队的功绩》一文，以大量的事实，驳斥国民党所谓广东没有中共部队，只有“土匪”的言论。2月16日，中共中央发言人通过新华宪发表评论，强烈谴责国民党广东当局的内战罪行，要求重庆军事三人会议和北平军事调处执行部迅速采取措施，使停战令在广东迅速实现，以保障国内和平。2月15日，中共广东区委致电张发奎，抗议国民党军队继续内战。19日，区党委发言人在《华商报》发报重要谈话，详列东江纵队的抗日战绩，吁请社会各界速组考察团，实地调查，督促广东当局立即停止进攻解放区，实现全面和平。中国人民解放军总部发言人也为此发表声明。3月9日，为打破谈判僵局，根据中共中央指示，广东区委书记、东江纵队政委尹林平飞抵重庆，于3月11日举行中外记者招待会，揭露国民党反动派妄图消灭华南抗日游击队的阴谋，详细介绍华南游击队八年抗战的功绩。3月18日，中共代表团团长周恩来又在重庆再次举行中外记者招待会，首先让尹林平发言，揭露国民党在广东挑起内战的阴谋；随后周恩来代表中国共产党号召全国人民、盟邦朋友、各党派朋友一道维护并监督“双十协定”和政协协议的全部实现。
    3月22日，中国民主同盟港九支部在香港召开成立大会，并通电全国，呼吁制止内战，要求国民党军队立即停止对东江解放区的进攻。在香港的何香凝、蔡廷锴、李章达等先后发表声明，呼吁和平，要求张发奎“立即停止进攻东江爱国的中共军队”。被东江纵队营救过的英美人士，也发表公开谈话，称赞东江纵队是一支英雄的部队，表示坚决给予支持。
    经过一系列的斗争，国民党广东当局终于承认广东有中共武装的存在。3月底，重庆军事三人会议派出三人小组（中共代表为廖承志），到广州会同第八小组解决中共武装北撤问题，于4月2日签订了关于东纵北撤问题联合会议决议，包括三项原则、十项决议和一个附则。主要内容有：一、承认华南有中共领导的抗日武装力量；二、北撤2400人，从调查查之日起至登船之日止，以一个月为限；三、从大鹏湾登船，撤退到陇海路以北，撤退船只由美国负责。当时，广东境内的人民武装约有1万多人（琼崖未计），而北撤人数仅限2400人，大部分人不得不留下。人民武装遍布全省数十县，方圆达1000多平方公里，而交通和通讯设备落后，要求在一个月内集中北撤，困难很多。虽然有这些不利因素，但共产党人从和平的大局出发，忠实履行协议。以最大的努力，克服各种困难。其中，粤中党组织领导的地下航线“前进渡”船，想方设法完成运送粤中部队负责人的任务，使他们能够如期集中，参加北撤。
    5月21日，北撤达成最后协议。23日，第八小组在广州举行记者招待会，发表最后的协议公报。中共方面还举行答谢宴会，款待各民主党派、进步舆论界朋友和有关人士。方方在讲话中指出：“和平不能乞求，邪恶未除，斗争不止！”
    果然，斗争仍在继续。北撤协议签订之后，国民党广东当局对中共部队集中的安全问题不作具体保证，又不下停战令，企图拖延时间，以消灭中共部队。当时，北撤部队从江南、江北和粤北分三路向集结地点大鹏半岛集中。国民党广东当局在沿途调集重兵，挑起事端，伺机发动进攻。5月底，国民党军队袭击东纵驻增江河畔沙塘墟的部队，打死东纵战士8名，捕去7名，制造了严重的流血事件。东纵粤北部队南下集结途中，遭到国民党军第一三一师和第一五三师的尾追堵截，国民党特务还企图行刺东纵指挥员，被当场捕获。东纵东进指挥部在惠阳也遭国民党军一个营的进攻，被迫起而反击，全歼敌军。
    正当北撤部队冲破重重障碍，抵达大鹏半岛时，美方突然来电，说运兵舰只因故可能迟到。国民党当局即策划新的阴谋，密令广州行营参谋处绘制进攻北撤部队的路线示意图，企图将北撤部队“聚而歼之，一网打尽”。集中在大鹏湾的北撤部队，处于十分危急的境地。当此千钧一发之时，在广州行营工作的中共秘密特支成员杨应彬看到了这一密令，立即告知同在行营工作的秘密党员左洪涛。左紧急找到民主人士萨空了，请萨赶赴香港，报告尹林平。广东区党委得到这一特急情报，即作出决定：向周恩来、叶剑英报告；由方方向国民党方面提出抗议，并知会美方代表米勒上校，制止国民党的倒行逆施；动员香港进步报刊，揭露国民党的阴谋。曾生等在北撤部队中作紧急动员，迅速作好突围、应变的准备。由于及时察觉了国民党当局的阴谋，措施得当，中共广东区委终于挫败了反动派消灭东纵北撤部队的图谋。
    6月30日，东江纵队北撤部队启航。方方代表中共中央军委到大鹏湾欢送。在北撤部队中，成立了北撤军政委员会，书记曾生，委员王作尧、林锵云、杨康华、罗范群、刘田夫、谢斌、谢立全。北撤部队在大鹏湾沙鱼涌登上三艘美国兵舰，启程北撤。东江纵队北撤部队共2583人，其中包括珠江纵队89人，韩江纵队47人，南路部队23人，粤中部队105人，桂东南1人。7月5日，东纵北撤部队安全抵达山东烟台解放区。
    东江纵队胜利北撤，具有重要的意义：一、充分体现了中国共产党争取和平的诚意。广东人民武装的北撤，是中共坚定执行“双十协定”、顾全大局的实际行动。毛泽东曾说，让出八个解放区是必要的，“在这一点上我们采取让步，就有利于击破国民党的内战阴谋，取得国内外广大中间分子的同情”。东纵北撤赢得了全国人民的信任，提高了党的政治影响。二、贯彻执行了中共中央关于“向北发展、向南防御”的战略方针。方方后来在总结东纵北撤的经验时说：当时要做一大生意（控制东北），就要牺牲小的生意。撤退是为了保存干部，照顾东北。可见南方的撤退，有利于党在全国的革命斗争，便于收缩战线，集中兵力，控制东北，巩固长江以北的阵地；并避免南方分散孤立的人民武装被各个击破。三、锻炼、培养了干部，为随后开展的华南游击战争，解放广东准备了大批干部。东纵北撤到达山东烟台解放区后，许多干部、战士分别被安排到华东军政大学、华东党校或其他专业学校学习。后来在此基础上，组成两广纵队，并南下参加了解放广东的战役。