En 1916, se graduó en la escuela secundaria número 1 de Shanxi y fue admitido en la Universidad de Pekín. Influenciado por el Movimiento 4 de Mayo, Gao se transformó gradualmente de un demócrata radical a un marxista. Es uno de los estudiantes de Li Dazhao y su mano derecha. Establecieron la "Sociedad de Investigación de la Teoría Marxista" en la Universidad de Pekín.
En 1920, se estableció el "Grupo del Partido de Beijing".
En 1921, se estableció formalmente el Partido Comunista de China y Gao era uno de los 57 miembros del partido en China.
En mayo de 1921, Gao fue nombrado por Li Dazhao y regresó a Shanxi para establecer la "Liga Juvenil Socialista de Taiyuan" en la escuela secundaria número 1 de Taiyuan, con miembros como Wang, He Chang y otros.
A finales de la primavera y el verano de 1924, Li Dazhao envió nuevamente a Gao a regresar a Shanxi para establecer una organización del partido y promover la cooperación entre Shanxi y China central. En ese momento, los miembros del partido producidos en Taiyuan incluían a Li Yutang, Fu Maogong (Peng Zhen), Hou Shimin, Zhang Shuping, Ji Tingzi, Pan Enpu y Zhang Yulin. Con la aprobación del Comité de la Prefectura de Beijing, la sucursal de Taiyuan se estableció en secreto en la escuela secundaria número 1 de la provincia de Taiyuan.