19日，苏联驻华各地使领馆人员开始下旗离境。当天，国民政府一面发表宣言重申夺取中东路之理由，一面召开第三十六次国务会议，就苏联宣布正式绝交问题做出相应决定，即：“所有苏俄驻华使领馆人员一律护送出境，我国驻苏俄使领馆人员一律召回本国。旅居苏俄华侨托由驻苏俄德国使馆代为保护，令外交部负责办理。”[33]紧接着，除个别人员留守外，苏联驻齐齐哈尔、哈尔滨、海拉尔、满洲里、黑河、绥芬河领事及海关职员乃至苏联侨民均经满洲里回国，中东铁路约600名苏联员工也集体请辞返国。中国驻苏联使领馆人员也随后经芬兰转去欧洲归国。中苏两国自此彻底断绝了一切外交关系。
2．苏军侵扰边界与蒋、张态度分歧
苏联政府宣布对华断交后，苏军即开始在中苏边界制造紧张空气。蒋介石依旧告诉张学良：“苏俄决不敢对我国开战”，故应严令边境军政人员持以十分镇静态度。“即使其来挑衅，则我军应照集中于预定之防御线，暂取守势，不可在边境与之对抗。”[34]但张学良显然开始有所不安，其给蒋介石、王正廷的电报称：苏方现调动军队，积极筹备，迫近满洲里、绥芬河等处，确有以武力压迫情势，决非局部之事故，非东省独立所能应付，应请中央预定方策，详为指示。事机危迫，不容再迟。否则牵动大局，关系重大。[35]然而，即使在7月19日晚，苏军开始在绥芬河一带向中方守军开枪开炮，并扣留行进在黑龙江上的中国船只之后，蒋介石也还是断言苏联决不敢对中国开战。他在次日给张学良的复电中详细介绍了驻列强各国公使的来电，强调美国国务卿力主中国可将此事付诸公断或仲裁；日本外相相信中国只要愿意交涉苏俄当不会拒绝；德国也是甚愿调停，英国更认为苏俄不会开战，如此等等。故“详察国际形势，俄无开战可能，昨日绥芬飞机与炮声是其仍以恫嚇性质，我军前方部队须以极镇静态度处之。即使其向我国境内进攻，则我军非引退于集中地点，准备完毕后，不可与之接触。此时当力避冲突也。”[36]
蒋介石这时的态度很明显，那就是，绝不能向苏联示弱，因此也不宜对苏直接交涉。注意到非战公约7月24日将正式生效，其主倡者美国政府又格外热心，蒋介石自然是希望能够向国际上“提出仲裁”。对于蒋的主张，20日夜从青岛赶回南京的王正廷不大赞同。他在次日凌晨见蒋时表示说：俄国未加入联盟，故无要求联盟调停必要。对非战公约组织，也只能限于将中国政府的态度通知签约各国而已。毕竟外交全靠自己，不能依赖他人。[37]因此，他主张应当对苏联政府的绝交照会做出正式答复，以寻求直接交涉。对此，蒋介石断然反对，严辞道：“彼已决绝如此，余决不复，兄必欲复，请以兄私人名义复之可耳。”[38]
这时，正是南京政府大力推行“革命外交”，与列强各国紧张谈判改订条约的关键时期。政府武力收回中东路的举动，在全国范围内引起了相当强烈的反响，苏联宣布断交并在边界实施武力威胁，自然会激起社会舆论和大批民众的激烈反应。注意到民心可用，蒋介石显然希望利用此一形势，提升南京中央政府的声望，并彻底抑制国民党内各派势力的反抗之举。从他这时发表的声明和宣言中，不难看出他为什么会敢于大胆推动东北当局直接向苏联挑战，以及用心何在。他公开声言：“英政府对驻英俄代表之一再搜查，法政府对驻法俄使之强制撤换，苏俄皆帖然就范，不敢稍抗，今独敢以最后通牒加于我者，岂非蔑视我国之无人，乃以次殖民地视我国耶？国必自伐而后人伐之，此中正平日所为垂涕而道于邦人君子之前。尤我全党同志、全体将士所当憬然反者也。今日舍努力拒俄以外，无忿嚏；舍一致对俄以外，无出路。诸将士其同心一德，共同努力，誓贯彻废除不平等条约之目的，以完成我国民革命最后之职责。”因“此次事件为我国力争独立平等之关键，非举国一致，共同御侮，更无以自存于世界。”[39]
蒋介石一面坚持对苏取强硬态度，一面对苏方挑衅则要求东北方面退避三舍，力避冲突，其基本策略就是希望通过外交手段，推动在美英等国主导下的非战公约组织和国际联盟出面，不战而达成胁迫苏联让步和提升南京正统地位的目的。但是，南京政府武力夺取中东路之后始终没有拿出足以服人的充分理由，惹得本来就反感中国“革命外交”的列强各国愈发不满。中国驻华盛顿公使伍朝枢明白电告外交部称：此次中国攫夺中东路，美英等均印象不佳，法国亦然。美国国务卿明确表示，正因为世界舆论不赞成中国的作法，故苏联的态度已转强硬。中国此举不能不令人怀疑是藉口防止俄人宣传共产，目的是要占领中东路。该国通信社的报道亦指出，党国要人演说多含有先占东路，再及其他，以实行废除不平等条约之意。“此等举动及言论殊丧友邦同情，各国虽雅不喜苏俄政府，但此事则不以中国为然。”因此，伍朝枢提议：“我似应即速发表宣言，说明此次并非攫取共有之中东路为独有，不过驱逐违约之共产党而已。”[40]
由于顾虑到美英等国的态度，南京外交部自21日起不得不开始突出强调：此次夺取中东铁路，实一“权宜之措施”，纯“因哈埠事件发觉东路重要职员及其他机关经理委员均经参加”，出于取缔宣传共产的目的而不得已而出此。但“此后该路问题及关系各事件均先由中俄商洽解决。”[41]据此，国民政府为统一口径，也开始向各部会及各地军政负责官员发出通告，说明对中东路事件当一律做如下解释，即“查苏政府藉驻华官办营业机关，匿伏共党，不独宣传赤化，且图危吾国国本。迭经见诸事实，本年五月感日吾东省特区行政长官查实驻哈苏联领馆开第三国际共党宣传大会，当经搜得破坏我国统一组织暗杀团及秘密破坏军……助长内乱种种铁证，遂不得不对中东路有相当之处置，并封禁东路职工联合会等谋乱机关。”[42]