Fue fundada por Nasurudin, un erudito árabe que fue funcionario de la dinastía Liao. Fue ampliado en 1427 (el segundo año de Xuande en la dinastía Ming) y renovado en 1442 (el séptimo año de Zhengtong en la dinastía Ming). En 1474 d.C. (el décimo año de Chenghua en la dinastía Ming), el comandante Zhan Sheng aspiró al trono y recibió el nombre de "Bai Dian", por lo que se llamó "Ming Dian". En 1696 d. C. (el año 35 del reinado del emperador Kangxi en la dinastía Qing), se llevaron a cabo renovaciones a gran escala como antes, con un total de ocho renovaciones y ampliaciones.
Después de la fundación de la República Popular China, se asignaron fondos para renovaciones integrales en 1955 y 1979. Los musulmanes chinos y extranjeros suelen venir aquí para realizar actividades y visitas religiosas. La Asociación Islámica del Distrito de Xuanwu, Beijing, y la Fundación Niujie de Construcción Musulmana de Beijing están ubicadas en este templo. En 1988, fue catalogada como unidad nacional clave de protección de reliquias culturales.