Asumió el cargo de Director de Asuntos Militares el 23 de marzo de 1936 (Showa 11) e hizo todo lo posible para sofocar el impacto del Incidente del 26 de febrero. En diciembre del mismo año fue ascendido a teniente general. En marzo de 1937 fue nombrado comandante de la 10.ª División. Después del Incidente del 7 de julio, viajó al norte de China. En 1938, luchó con el Ejército Nacional Revolucionario comandado por Li Zongren, comandante del quinto teatro de operaciones de China, en Taierzhuang, y sufrió un revés. En junio del mismo año, sucedió a Tojo Hideki como jefe de estado mayor del ejército japonés de Kwantung.
En mayo de 1939, se produjo un conflicto fronterizo a pequeña escala entre el ejército títere manchukuo y el ejército mongol en Nomenkan, que más tarde evolucionó hasta convertirse en una confrontación frontal entre el ejército japonés de Kwantung y el Ejército Rojo soviético. Zhukov comandó 6 brigadas de 70.000 tropas del ejército soviético del Lejano Oriente y utilizó tropas mecanizadas para derrotar a dos divisiones de aproximadamente 40.000 tropas del ejército japonés de Kwantung. 18.000 soldados japoneses murieron o resultaron heridos. Todo Japón quedó consternado y el gabinete de Hiranuma Kiichiro dimitió. El comandante del ejército de Kwantung, Ueda Kenkichi, y el jefe de estado mayor, Isotani Rensuke, fueron destituidos y Isotani Rensuke fue transferido a la reserva.