Después de llegar a Francia, Xu Beihong ingresó a la Académie Julian en París y comenzó a aprender. desde el boceto más básico. Al principio no estaba acostumbrado, porque solía pintar principalmente cuadros chinos a mano alzada en China. Ahora, cuando dibujo objetos, siento que mis observaciones y descripciones son muy inexactas y pueden ser "como un caballo sin riendas, difícil de controlar". Para cambiar sus hábitos de pintura del pasado, Xu Beihong dejó de pintar China.
Después de más de dos meses, Xu Beihong comenzó a sentir algunos sentimientos acerca del dibujo. En 1920, Xu Beihong solicitó ingresar en el Departamento de Pintura de la Academia Nacional Francesa de Bellas Artes, la institución más importante de París. Esta escuela tiene muchos libros, buenos profesores, matrícula gratuita y exámenes de ingreso estrictos. Un mes después del examen, Xu Beihong fue admitido con una puntuación de 14 entre 100 personas.
El proceso de aprender a dibujar es aburrido y difícil, especialmente para un estudiante pobre de China. Para ahorrar dinero, Xu Beihong vivió frugalmente, a veces obteniendo pan y agua fría todos los días durante varias semanas. Intenta no pintar cuadros al óleo que requieran grandes consumibles y se centra en dibujar. Cuando no tenía dinero para contratar un modelo, dibujaba a Jiang Biwei. A veces se dibujaba a sí mismo frente al espejo de su casa. Muchos de los autorretratos de Xu Beihong que vemos ahora fueron creados durante este período.
En el verano de 1921, debido a la agitación política interna, el gobierno de Beiyang suspendió temporalmente los gastos de manutención de los estudiantes internacionales y Xu Beihong se vio obligado a venir a Berlín, Alemania, donde el consumo era menor. En los últimos dos años en Alemania, Xu Beihong nunca perdió ninguna oportunidad de aprender. Pidió a Kump, director de la Academia de Bellas Artes de Berlín, que copiara las pinturas del famoso pintor Rembrandt en el museo. Mientras pudo mantener su vida, Xu Beihong trabajó duro para pintar, pintando durante más de diez horas al día sin interrupción. Para dibujar una pata trasera levantada cuando un león camina, Xu Beihong fue al zoológico a dibujar durante tres meses consecutivos.
Mientras estaba en Alemania, Xu Beihong vio que muchas reproducciones de arte eran excelentes, por lo que pidió dinero prestado a otros y compró tantas como pudo, preparándose para llevarlas de regreso a China en el futuro. Su habitación estaba llena de diversos materiales comprados. Pedir dinero prestado para comprar estas cosas no cuida mucho la vida familiar. Xu Beihong a menudo causaba insatisfacción con su esposa.
Una vez, Xu Beihong vio por casualidad una tienda de pintura que vendía obras de Kang Pu y otros artistas en la calle a precios muy baratos. Estaba muy emocionado e inmediatamente se dio cuenta de que era una gran oportunidad para coleccionar obras de maestros, pero ahora no tenía dinero. Hace más de un año que no recibe gastos de manutención y debe mucho dinero a sus amigos. ¿Dónde puede permitirse el arte? Indefenso, Xu Beihong acudió a Zong Baihua y a otros amigos que estudiaban en Alemania en busca de ayuda y luego, de mala gana, compró dos pinturas al óleo y algunos bocetos de CommScope. Estas obras se encuentran ahora recogidas en el Salón Conmemorativo de Xu Beihong en Beijing.