Entró en el Trinity College de la Universidad de Cambridge a los 20 años y se graduó con honores tres años después. Al año siguiente de graduarse, fue elegido miembro del Trinity College. Tenía talentos sobresalientes tanto en teoría como en experimentación, y su trabajo de investigación abarcó casi todas las áreas de la física clásica en ese momento.
Tiene muchos libros y más de 400 artículos. Fue elegido miembro de la Royal Society en 1873 y se desempeñó como director del Laboratorio Cavendish de 1879 a 1884; secretario de la Royal Society de 1885 a 1896 y presidente de 1905 a 1908. Presidente de la Universidad de Cambridge desde 1908 hasta la actualidad.
El trabajo de investigación de Rayleigh comenzó en la electricidad, y posteriormente estudió más acústica y óptica, como la teoría de la resonancia en acústica.
De 1877 a 1878, escribió dos volúmenes de la obra maestra científica "Principios de Acústica", que sentó las bases de la acústica moderna. Proporcionó una explicación teórica de "por qué el cielo es azul" y derivó la fórmula de dispersión molecular (ley de dispersión de Rayleigh, dispersión de la luz visible). Realizó estudios experimentales sobre resolución y difracción de redes, fue el primero en dar una definición clara de la resolución de los instrumentos ópticos y desempeñó un papel importante en el estudio de la espectroscopia.
Midió con precisión por primera vez la densidad de los gases. En 1895, descubrió que había sólo una pequeña diferencia de densidad entre el nitrógeno fraccionado del aire líquido y el nitrógeno separado del nitrito de amonio. Este hecho llevó al descubrimiento del raro elemento argón en el aire y al Premio Nobel de Física de 1904.