Ya en la dinastía Tang, antes de la construcción de la Mezquita Niujie, los empresarios de Asia Central llegaron a China para hacer negocios a través de la Ruta de la Seda. Algunos de ellos vivieron en China durante mucho tiempo y fueron los primeros en regresar. "a China. El desarrollo del pueblo Hui de China se "acredita" a Genghis Khan y su caballería mongola. A finales de diciembre de 2012, Genghis Khan invadió Occidente dos veces y ocupó muchos países islámicos. Además de su política habitual de quemar y matar, también capturaron a un gran número de musulmanes. Genghis Khan sabía que su guerra imperial requería una expansión continua del ejército, por lo que incorporó a cientos de miles de musulmanes al ejército mongol y los impulsó a realizar su "sueño imperial". Pero estos devotos musulmanes no han olvidado sus raíces. Más de medio siglo después, Kublai Khan construyó su capital y ordenó a todas sus tropas que se establecieran en el lugar. Como resultado, estos musulmanes entraron en la capital con el ejército mongol y comenzaron a establecerse en Beijing. Como musulmanes, las mezquitas son una parte integral de sus vidas y las mezquitas de la calle Niujie también se han vuelto animadas.
La mezquita Niujie cubre un área de más de 6.000 metros cuadrados. Su arquitectura y diseño son una combinación del estilo típico de un palacio antiguo y el estilo árabe Han. El marco arquitectónico de toda la mezquita adopta una estructura de madera china, pero la decoración detallada del edificio principal tiene un fuerte estilo islámico, formando una forma única de arquitectura islámica china. Después de una continua expansión y renovación durante las dinastías Ming y Qing, la mezquita adquirió su escala actual. En el noveno año de Hongzhi en la dinastía Ming (1496), se construyó una sala principal al este de la sala de sacrificios principal, y se construyeron tres salas de almacenamiento para la sala de sacrificios durante el período Kangxi, haciendo que el diseño arquitectónico del templo más compacto y razonable, formando un conjunto relativamente completo. Después de la restauración de la mezquita, el emperador Kangxi entregó la placa "Dedicada al templo", que aún se conserva en el templo.