Después de que Li Yuan fuera ascendido a permanecer en Taiyuan, algunos niños del clan Guandong se refugiaron en Li Yuan para evitar el servicio militar en Liaodong. Al ver que la dinastía Sui había desaparecido, algunos funcionarios de Hedong se separaron de los gobernantes de la dinastía Sui y siguieron instando a Li Yuan a aprovechar la oportunidad para reunir tropas y establecer una nueva dinastía.
En junio de 617, Li Yuan ordenó a Liu Wenjing que falsificara el edicto imperial de Yang Di, afirmando falsamente que enviaría tropas a Taiyuan, Xihe (ahora condado de Fenyang, Shanxi), Yanmen (ahora condado de Dai, Shanxi) y otros lugares, y enviar a su segundo hijo, Li Shimin y Liu Wenjing, tropas reclutadas a todas partes. Unieron las fuerzas turcas y confiaron en el poder de los grupos de terratenientes Guanlong y Hedong. Afirmaron que el emperador Yang Di era el emperador supremo y You Yang, que defendía a Chang'an, era el emperador. Luego, el emperador Gaozu de la dinastía Tang nombró a su hijo mayor gobernador del ejército de izquierda y a su segundo hijo gobernador del ejército de derecha. Lideró el "ejército de voluntarios" que reclutó en Taiyuan y marchó hacia Chang'an, mientras que su cuarto hijo, Yuanji, permaneció en Taiyuan.
En 617 y 11 d.C., Li Yuan unió fuerzas con Li y más de 200.000 soldados para atacar Chang'an. Después de capturar Chang'an, Li Yuan sintió que aún no había llegado el momento de convertirse en emperador, por lo que, como se mencionó anteriormente, adoptó al rey interino Yang Gang. Se proclamó rey de Tang, comandante en jefe, ejército interno y externo, primer ministro y otros cargos importantes. Como You Yang tenía sólo 13 años, el poder real todavía estaba en manos del emperador Gaozu de la dinastía Tang.
Para evitar la sospecha de tomar el trono, Tang Gaozu insinuó que sus subordinados obligarían a You Yang a renunciar al trono él mismo, y You Yang tuvo que aceptar.
En el decimocuarto año de Daye (618 d.C.), Li Yuan se proclamó emperador, el país se llamó Tang y el país se llamó Wude. Tang Gaozu es Tang Gaozu. A partir de entonces comenzó la historia de la próspera dinastía Tang.