据徐永昌称，蒋介石对他的敌情判断将信将疑，但对他所提努力打击日军的主张则表示同意。长沙失守后，白崇禧主张放弃在长沙、衡阳之间拼命抵抗，将防守衡阳的兵力调往桂林，着手桂林防卫战。徐永昌则主张，下一阶段仍要在长沙、衡阳正面作持久抵抗，两翼则相机与日军展开决战，以消耗日军，打击其侥幸心理。徐永昌的意见被蒋介石采纳。

自6月下旬至9月初是湖南会战的第二阶段。日军总结第一阶段的战果称：“自开始作战以来，第11军虽力图歼灭第九战区军的主力，但敌军大部回避与我决战，尤其是敌军退避到了东面山岳地带，如不将其歼灭，对第二期作战向桂林、柳州方面进攻，则很难保证不留有后患。”为此，日军的战略构想是：为了下一阶段攻取桂林、柳州，要在这一阶段的作战中尽量歼灭中国军队，为此，设法引诱中国军队采取攻势。

衡阳地处粤汉与湘桂铁路交会处，是进入桂、黔、川、滇四省的门户；湘江连接长沙与衡阳，是南北交通之要道。日军估计进攻衡阳时，中国军队将会全力展开攻击。为此，日军计划在攻取衡阳的同时，以主力搜索围歼对日军侧攻和前来增援的国军，重点击溃湘东山区的中国第九战区主力。

国军在第二阶段的战略是：中间防堵，两翼夹击，置主力于湘江之东西两翼，实施正面阻止，侧背猛攻，战略上与前一阶段没有大异。在此期间，国军只以1个军用于衡阳防守，而东西两翼则先后投入了约13个军以上的兵力。

6月20日，蒋介石电令各兵团以阻敌深入、确保衡阳为目的，从东西两翼夹击日军。具体的战略部署是：中央以一部于渌口、衡山地区持久抵抗，东翼主力由醴陵、浏阳向西，西翼主力由宁乡、益阳向东，夹击深入之敌而歼灭之。