尽管关东军早有对苏作战的准备，甚至一度还拉出与苏军决战的架势，但是，由于关东军设想决战的时刻是1946年，不仅未能侦察到苏军的实力，甚至连苏联正式对日宣战的消息，也没能提前得到。在苏军的强大攻势下，关东军精心布设的阵线很快就土崩瓦解，总司令部慌忙决定放弃“新京”(长春)，固守通化，并指令伪满洲国皇帝溥仪随总司令部迁往通化，企图在通化一带与苏军决战。此时的关东军官兵已经完全没有了斗志，纷纷逃命。原来设想的大决战竟然化为一场拼命的追逃游戏。苏军各个方面军的作战行动都进展顺利。特别是由克拉夫钦科上将指挥的近卫坦克第六集团军在大兴安岭的突击行动收到了奇效，在不到一周时间已前突到东北中部地区，创造了一个奇迹。关东军从此一蹶不振。
难逃灭亡命运
8月10日，日本大本营下达命令，指示关东军在万不得已的情况下，可以放弃满洲，退守朝鲜。但长期以日军“王牌”自居的关东军为了维护自己“皇军之花”的脸面，仍然负隅顽抗，不肯投降。可是，这种打肿脸充胖子的姿态并不能重新唤起日本的士气。8月15日，日本天皇裕仁公开宣布投降。但骄横的关东军借口没有收到日军大本营的停战命令，仍然继续抵抗。到17日，除海拉尔、虎头和东宁等少数筑垒地域的残余日军仍在顽抗外，关东军已经完全丧失了抵抗能力。眼看败局已定，关东军最后一任总司令山田乙三大将终于向苏军提出了停战谈判的请求。
8月19日中午，苏军阿尔捷缅科上校率5名军官、6名士兵组成的军使团，在9架歼击机护航下到达长春机场与日军进行谈判。迫于压力，山田乙三向苏军代表交出了象征指挥权的军刀，宣布自己和部属成为苏军俘虏。此次战役中，关东军损失约67.7万人，其中8.3万人被击毙，59.4万人投降，而苏军仅伤亡3.2万人。
不仅如此，那些靠关东军发家的日本高级战犯大都也没有逃脱正义的审判。曾任关东军宪兵司令、参谋长的东条英机，曾任关东军副参谋长、参谋长的板垣征四郎，曾任关东军参谋长的木村兵太郎，曾供职于关东军司令部、后任第七方面军总司令的土肥原贤二，曾供职于关东军司令部、后任第十四方面军参谋长的武藤章，均被送上了绞刑架。其他一些臭名昭著、恶贯满盈的关东军将领要么受到惩罚，要么背着千古骂名苟且偷生。