5月14日拂晓，日军向洛阳发起全线总攻击。洛阳守军奋勇应战，双方肉搏数次。15日凌晨，日军数次冲入东关、南关及山陕会馆等处，均被洛阳守军击退。5月22日，国民党飞机给15军投送蒋介石20日手令：“着仍固守洛阳，勿轻信谣言，至迟一星期，我必负责督饬陆空军增援洛阳。”根据这一命令，洛阳警备司令军武庭麟(15军中将军长，河南伊川籍人士)再次变更部署，除东、西车站各置有一部保持据点外，15军主力全部撤入城内，与94师合力守卫城厢。但是，蒋鼎文、刘峙拒不执行蒋介石驰援洛阳的命令。早在5月7日晚，蒋鼎文即带大部队逃出洛阳，将岌岌可危的洛阳城交给了武庭麟。5月10日凌晨之时，蒋又将第一战区指挥所由宜阳转移至洛宁。坚守到5月26日早，洛阳守军伤亡已很惨重，弹药也已告罄，蒋介石手令中所说的援兵又迟迟未到，武庭麟部与第一战区司令部通信联络也失去联系。20天的浴血奋战，15军1.8万名官兵仅存官佐316人，士兵1795人。在此情况下，武庭麟只好命令部队开始突围，洛阳城终于陷入日寇之手。
据国民党后来编写的《抗日战史》记载，第一战区在此次战役中，共伤亡官佐817名、士兵18327人，日军伤亡4000人。而据日本防卫厅防卫研究所统计，日军伤亡3350人，中国军队阵亡32290人，被俘7800人。第一战区在战役结束后所作的检讨中也承认：“此次中原会战，挫师失地，罪戾难辞”，确也属于事实。
(二)
中原会战前后历时38天，国民党失城38座，河南省几乎全部陷落于日寇手中，气得身在重庆的蒋介石一个礼拜寝食难安，两眼发赤，逢人便骂，一怒之下，责令将蒋鼎文、汤恩伯二人双双撤去职务。同时，任命陈诚为第一战区司令长官，郭寄峤为副司令长官兼前敌总司令部参谋长。蒋鼎文自己也认为中原会战的失败是他“治军、从政40年来最大挫折”，“此一段血的教训，深足警觉，确有坦白的检讨之价值”。所以检讨中，一方面自请罪责，另一方面又找出诸多理由为自己开脱罪责。1945年后蒋鼎文弃官经商，基本脱离军界。
撤职后的汤恩伯，觉得继续呆在河南甚是尴尬，遂于1944年7月中旬，带着幕僚和随从机关来到豫陕交界的商南县。新任商南县县长杜德霖对这位败军之将仍不敢怠慢，殷勤接待，将其住地安排在城关小学之内，并于次日在城隍庙召开欢迎宴会，为汤恩伯接风洗尘。
这时的商南县城里已是人满为患，不仅是郭寄峤所率的国民第27军及第一战区商南指挥所的驻扎地，而且第七后方医院这时也由中原撤至商南，医护人员和伤病员充塞东岗坡塬。加之，为加强陕东防线攻防，作战部队调动也颇为频繁，使本来就狭小的商南县城一时显得十分杂乱而且拥挤不堪。在这种情况下，心情沮丧、情绪低落的汤恩伯已无心在县城再继续呆下去，欲选择一处比较幽静的地方赋闲静养，在杜德霖的热情推荐之下，终于选定了西距县城约30里地的清油河镇一个叫做涧场的小村落。这是一个有山有水、环境十分幽静的地方，村前有阵阵飘香的稻田，村后有层层梯田和茂林修竹，村子人家也较少，离清油河街距离也不远，镇街之南即是通畅车辆的西荆公路，所以汤恩伯对暂居于此较为满意，遂将自己的行辕设在村东靠近河边的王子文家。王家是一个独立小院，有正房6间，厢房4间，汤下榻于正房，卫士们则居住在厢房。其余警卫营、参谋处、副官处、人事处、军需处、通讯处、军法处、分监部、情报处、军马队、军乐队、军事法院等均围绕汤的行辕分散安排在刘家凸、小房沟、何家湾、三官庙等处和清油河街上。
汤恩伯在清油河安顿下来之后，9月上旬履新的第一战区司令长官陈诚便借这块“风水宝地”召开了“豫中会战检讨会议”。会场设在清油河街上的小学大操场。会议规模较大，第一战区所辖的部队团职以上的将官和河南省专员以上的行政官员全部出席。会场四周布满了大幅标语，其主要内容是沉痛悼念在中原战役中为国捐躯的抗日将士和要为这些壮烈牺牲的烈士讨回公道之类的口号，会场气氛相当郑重严肃。