En la dinastía Han del Este, Fenyang se estableció como condado. Fue una de las siete ciudades más grandes de China durante la dinastía Tang y uno de los centros económicos, culturales, políticos y de transporte de esa época. Durante la dinastía Tang, Fenyang aún conservaba las murallas y calles originales de la ciudad, incluidos grandes palacios, templos y mercados comerciales. Durante la dinastía Tang, Fenyang pasó del condado de Qipin al condado de Sanpin y se convirtió en un importante centro administrativo en el sur de Shanxi.
Durante las dinastías Song, Yuan, Ming y Qing, el estatus de Fenyang decayó gradualmente. Durante la dinastía Qing, Fenyang estaba en ruinas. A principios del siglo XX, Fenyang se convirtió en sede de condado y ahora se ha convertido en un área bajo la jurisdicción de la ciudad de Linfen, provincia de Shanxi.
Fenyang es rico en reliquias históricas, incluidas las ruinas de la ciudad de Fenzhou en la dinastía Tang, el templo Hongbeiya y Zhonghua en la dinastía Tang, el templo Guan'an y el pabellón Dongguan Chengtian en la dinastía Song, el templo budista Chenjiazhuang y Pabellón Huangyu en la dinastía Yuan, etc. Además, Fenyang es también la ciudad natal del gigante literario Li Shangyin.