进驻沈阳后，我军首要任务是收缴日军武器，解散伪警备司令部。为了接管整个东北，我军改名为东北人民自治军，并成立了沈阳卫戍司令部，由我任司令员，同时成立了由白希清为市长的沈阳人民政府，初步控制了混乱局面。
　　1945年8月8日，苏联政府宣布对日作战，百万苏联红军分兵进入我国东北境内，给日本关东军以致命打击。8月10日和11日，朱德总司令代表延安八路军总部连续发布7道命令，其中在第2号命令中，要求冀热辽军区李运昌部“即日向辽宁、吉林进发”。随即，冀热辽部队分3路向热河和辽宁挺进。东路军由我(当时任冀热辽16军分区司令员)和16军分区副政委唐凯率12、18两个团及朝鲜义勇军支队等共4000人，从冀东根据地出发，绕道九门口，越过长城，于8月30日攻占山海关，于9月5日晨抵达沈阳，一路所向披靡，成为我八路军第一支进入东北的部队。
　　进驻沈阳后，我军首要任务是收缴日军武器，解散伪警备司令部。为了接管整个东北，我军改名为东北人民自治军，并成立了沈阳卫戍司令部，由我任司令员，同时成立了由白希清为市长的沈阳人民政府，初步控制了混乱局面。
　　9月14日，我乘苏军飞机从沈阳北陵机场起飞，到延安向党中央汇报了我军挺进东北的情况。9月18日，我陪同彭真、陈云、伍修权等同志回到沈阳。在东北局的领导下，16军分区部队以沈阳为中心，兵分5路，到东北收复失地，收缴敌伪武器，接管日伪政权，进行剿匪斗争和维持社会秩序。
　　当时在沈阳附近的辽阳奉集堡机场，驻扎着日本空军第2航空军团第4练成飞行大队。这是一支机动性的飞行部队，装备有重型轰炸机、99式高级教练机，任务是训练从日军其他兵种调来的初级将校军官和学生出身的见习官兵。日本宣布无条件投降后，这个飞行大队的人员如惊弓之鸟，惶惶不可终日。但是他们既不愿向苏军投降，也不愿向我军投降。9月9日，大队长林弥一郎带领300余人，遗弃机场和40多架飞机，向南逃跑，9月29日流窜到本溪以南凤凰城以北摩天岭山区。我随即向“东总”(东北局成立后，东北我军领导机关改为东北民主联军总部)作了报告，“东总”决定21旅组织精干的谈判小组，上山劝降。
　　我方谈判小组由5人组成，以12团12连指导员聂遵善为代表，由凤城县伪县长三桥(日本人)带路并兼翻译，与林弥一郎谈判。聂指导员义正辞严地指出，日军兵败军散，退路切断，下山投降是唯一的出路。接着又向日军交代了我军宽待俘虏的政策，他说：你们在中国境内参加了侵略战争，但不是你们的意愿，过去你们是我们的敌人，现在战争结束了，只要你们放下武器，我们就把你们当作朋友，以礼相待。接着，聂指导员对林弥一郎说：你们愿意和平接受投降，我们表示欢迎，并愿意尽可能为你们提供方便。我们为你们选定了一个离这里不远的地方，条件稍好的宿营地，请你们明天把队伍带到那里，交出武器，我军将为你们举行受降仪式。
　　第二天，当林弥一郎带领队伍来到指定地点时，21旅的代表对林弥一郎说：请你们把飞行装具放在桌子上，武器放在地上，军官的指挥刀不愿意交出来的可以不交，这是对你们的诚意作出让步。就这样，日本航空队员边走边把飞行装具和武器交了出来，受降就在这平静的气氛中结束了。当40多年后，林弥一郎在《我与中国》一书中回忆此事时，他感慨地说：“以前，在新闻片中看到的有关缴械的描述和画面，都是在对方刺刀威逼下被迫交出武器，那场面难堪之极。但在这里，我们没有看见一个端着刺刀的八路军战士，我当时最强烈的感受是：对方百分之百地守信用，这使我非常感动，我钦佩这个伟大的民族———中华民族。”