En 1949, se fue a Hong Kong con su familia. En 1954, fue a la Universidad de Londres en Inglaterra para estudiar ingeniería eléctrica. Recibió su licenciatura en Ciencias de la Universidad de Londres en 1957 y su doctorado en 1965. Desde 1957, Kao Kun se dedica a la investigación sobre la aplicación de la fibra óptica en el campo de las comunicaciones. En 1964 propuso utilizar luz en lugar de corriente eléctrica y fibra de vidrio en lugar de cables en la red telefónica. En 1966, en el Standard Telephone Laboratory, Ho propuso que la fibra óptica podría utilizarse como medio de comunicación. Kao posee 28 patentes en guías de ondas electromagnéticas y ciencia cerámica, incluida la fabricación de fibra óptica.
Debido a sus contribuciones especiales en el campo de la fibra óptica, ganó la Medalla Ballentine, el Premio Lieberman y el Premio de Optoelectrónica, y es conocido como el "Padre de la Fibra Óptica".
Se desempeñó como ingeniero en la Standard Telephone and Cable Company de 1957 a 1960, y como ingeniero jefe de investigación en el Standard Telecommunications Laboratory de 1960 a 1970. De 1970 a 1974, trabajó en el Departamento de Ingeniería Eléctrica de la Universidad China de Hong Kong y posteriormente se desempeñó como subdirector del Departamento de Productos Electroópticos de la Compañía Internacional de Teléfonos y Telégrafos. En octubre de 1987, Kao Kun regresó a Hong Kong desde el Reino Unido y se convirtió en el tercer presidente de la Universidad China de Hong Kong. Durante su mandato de 1987 a 1996, trajo una gran cantidad de talentos a la Universidad China e hizo que la estructura académica y la estructura de conocimientos de la universidad fueran más razonables. En los intercambios y la cooperación con los círculos científicos y tecnológicos de la parte continental, abogó por "realizar gradualmente los contactos a través del Estrecho".
En 1996, Kao Kun fue elegido académico extranjero de la Academia de Ciencias de China. Debido a su destacada contribución, en 1996, el Observatorio de la Montaña Púrpura de la Academia de Ciencias de China nombró a un asteroide con el número internacional "3463" descubierto el 3 de diciembre de 1981 como "Estrella Gao Kun".
El 6 de octubre de 2009, la Real Academia Sueca anunció que el Premio Nobel de Física 2009 sería otorgado al científico chino británico Kao Kun y a los científicos estadounidenses Willard Boyle y George Smith. Según la Real Academia de Ciencias, Kao ha logrado un gran avance en "la transmisión de luz en fibras ópticas para comunicaciones ópticas". Recibirá la mitad del premio de física de este año, que asciende a un total de 5 millones de coronas suecas (aproximadamente 700.000 dólares estadounidenses).