日军对山西腹地的第二次大规模进攻，一直等到来年农历二月份才发动，一方面因为晋北气候的原因，在数九天太过于寒冷，不利于大规模出兵，另一方面日军为这次进攻也进行了细致的准备。
虽然给中国军队留下比较充分的准备时间，而日军自己的准备之充分也远非忻口会战时可比。
这次的主力还是第五师团，一起进攻的还有二十六师团，一零八师团，另配属野战重炮第二旅团。以三个师团、一个重炮旅团的力量从北线进行进攻。
日军几乎是重建了第五师团，第五师团在上一次忻口会战后，人员只剩下了三千左右，这次在大同，日军大本营将第五师团损失的人员和装备全部补齐，并且为第五师团补充的都是在日本国内经过完备训练的士兵。
第五师团是日军的常设师团，之前与第二师团、第三师团、第六师团一起被认为是最精锐，战斗力最强的几个师团。日军大本营绝不接受一个常备师团被他们所轻视的中国军队打垮，尤其还是第五师团这种号称钢军的精锐部队。
第一次忻口会战失败后，日军在国内并未公布第五师团的情况，怕影响国民的信心，日军国内的媒体大多都是报喜不报忧，并且也没有撤销了板垣征四郎的第五师团师团长职务，而是让其继续在战场上戴罪立功。
这一方面是板垣的个人运作，他本人在日军高层具有极大的人脉和运作能力，想以此战来恢复他的名誉，从哪里失败的，就从哪里重新站起来。
另一方面也是日军的刻意安排，他们也认为第五师团的上一次失败是轻敌的原因，并且这种轻敌并不单纯是第五师团，日军从上到下都是这种情绪，当初第五师团执行的战略，也是得到华北派遣军乃至军部的同意的。
并且日军高层认为板垣能力是毋庸置疑的，他也是唯一在山西的山地作战过的日军高级将领，忻口会战失败后，最起码会谨慎很多，用生不如用熟，所以这次还派了他来指挥第五师团。
第五师团从大同出发一路向南，而二十六师团、一零八师团和野战重炮第二旅团从北平穿过涞源，经过平型关来到达忻口，此处以谷地为主，不需要翻越雁门关的大山，利于重炮的运输。
第二师团最终没有被派出进攻山西腹地。华北派遣军为了让第五师团恢复荣誉，就没有将第二师团派出，否则即使战胜之后，第五师团的荣誉也将被第二师团压制。况且东北也需要精锐部队压阵，就将第二师团撤回了东北。
在石门（石家庄）方向，在原本的二十师团外，又加强了独立第三、第四旅团。
华北派遣军司令寺内寿一是整个战役的最高指挥官。日军这次是势在必得，必须拔除山西这颗钉子。
日军对忻口会战的失败进行了细致的分析，将中国军队作用的战术进行了研究，认为第一次忻口会战，中国军队方面主要得以凭靠的是忻口的地形和游击战袭扰战。
这次想要破局，对于游击战和袭扰战，采用多路进攻的战术，以力破巧，后勤补给在出征时就要带的充分，要防止被掐断后勤线，宁可行进过程慢一点，也要保证物资的充裕。
而面对忻口防线的地利，决定采用刺刀战术，专攻一点进行凿穿，所以特别加强了一个重炮旅团，现在日本总共才有六个重炮旅团，之前在淞沪会战的时候向上海派出了一个野战第六重炮旅团，这次特意又加强给进攻山西部队一个。
在娘子关一线，为二十师团加强两个旅团，并且针对娘子关的地形，特意加强了飞行部队进行助战，娘子关的地形对从东向西的进攻非常不利，车辆无法前进，所以没有办法牵引携带大口径的火炮。
同时日军吸取了阳明堡机场被袭击的教训，在前线不再设置野战机场，飞机都在石门和大同的机场调度，从这里的机场起飞到达战场支援战斗。在石门在原有的机场规模上，又进行了扩建，建成了华北首屈一指的大型机场，这里距离娘子关非常近，可以保证飞机的滞空时间。
现在双方都是在打明牌，日军也知道中国军队的主要防线也是在忻口和娘子关，有哪些部队防守在日军那里都不是秘密。