En la antigüedad, procedían la mayoría de los nobles de la familia Xu. Es uno de los apellidos Han tradicionales en China, ocupando el puesto 285 entre los 100 apellidos.
El origen antiguo del apellido Xu es Shanxi. Durante el período de primavera y otoño, el funcionario de la dinastía Jin, Xu Chen, le rindió homenaje, y todos sus descendientes se convirtieron en funcionarios de la dinastía Jin, lo que hizo que la familia Xu prosperara y se hiciera famosa por un tiempo.
Durante las Dinastías del Norte y del Sur, la Dinastía Song y la Dinastía Ming, la familia Xu se expandió a Gansu, Shandong, Hebei, Jiangxi, Jiangsu, Hunan, Anhui, Henan, Noreste de China, Sichuan, Heilongjiang, Xinjiang. y otros lugares.
Los clásicos "Cien apellidos de familias" designaban el condado de la familia Xu como condado de Langya: durante el período de primavera y otoño (770-256 a. C.), se refería a Langya (hoy Jiaonan, Shandong). Durante las dinastías del Sur y del Norte (420-479 d.C.), los residentes de las Llanuras Centrales se trasladaron al sur, y Baixia (hoy montaña Mufu en Nanjing, provincia de Jiangsu) era el pueblo Hakka, también conocido como condado de Langya. "Cien apellidos de familias" se compiló en la dinastía Song, lo que muestra que en ese momento, el condado de Langya, la aristocrática familia Xu, estaba en Jiaonan, Shandong o Nanjing, Jiangsu.