为了配合对中条山的进攻，1941年上半年，日本组织63个大队的兵力，对中国东南沿海首先实施封锁。
同时，在正面战场实施了所谓灵活的速战速决的作战，即发动豫南、上高战役。
并于1941年3月，发动了中条山的外围作战。
此次作战，日军以第36师团发动对第27军作战，此战非常的顺利，日军不但打击了集结在晋东南陵川一带的国民革命军第27军，还在总攻开始前形成了有利的态势。
随后，日军又以第37、第41师团为主力，发动对第15军作战。
他们在翼城以南、绛县以东地区袭击了与主力脱离的第15军，虽然给第15军造成了不小的损失，但是却没能全歼这支国军。
经过周密的部署，日华北方面军着由第1军从山西省方面攻击，直辖第21与第35师团从河南省方面攻击，决心置作战地区于张马—垣曲一线，分成东西两个地区，把重点始终保持在西部地区。
日军企图在正面利用已设阵地及黄河的障碍，以挺进部队切断退路，从两侧地区神速楔入突破敌阵，将中国军队完全包围。
接着以迅速的内部歼灭战和反复扫荡，将包围圈里的中国军队完全围歼。
此次作战，日军从2月底就开始筹备，从4月底便开始频繁调动部队，并制造种种谣言，以此为掩护完成了进攻中条山的部署。
到5月初，日军已经将第36、37、41师团及第3、9dú • lì 旅团，伪24师，分布于中条山西面之绛县、横岭关、闻喜、夏县、安邑、运城、解州、永济、风陵渡、河津及闻喜、夏县以北各地区。
第33师团附第4dú • lì 旅团分布于阳城、芹池、沁水一带。第35、21师团及伪军张岚峰、刘彦峰分布于温县、沁阳、博爱、董封、新乡、焦作、高平、长子、陵川等地区。
万事俱备，只欠冈村宁次的一声令下了。