Antecedentes históricos del principio de máxima entropía

El principio de máxima entropía fue propuesto por E.T. Jaynes en 1957. La idea principal es que cuando solo se tiene algún conocimiento sobre una distribución desconocida, se debe elegir la distribución de probabilidad con el mayor valor de entropía. Porque en este caso puede haber más de una distribución de probabilidad que se ajuste al conocimiento conocido. Sabemos que la definición de entropía es en realidad la incertidumbre de una variable aleatoria. Cuando la entropía es máxima, significa que la variable aleatoria es la más incierta. En otras palabras, es la variable más aleatoria y la más difícil de predecir su comportamiento con precisión.

En este sentido, la esencia del principio de máxima entropía es que la inferencia más razonable sobre la distribución desconocida es la más incierta o la inferencia aleatoria que sea más consistente con el conocimiento conocido. Podemos hacer una elección justa. Cualquier otra elección significa que agregamos otras restricciones y suposiciones que no podemos hacer con base en la información que tenemos.

Ver "Sobre el principio de máxima entropía y la física estadística".

-Zeng Zhiyuan

Los campos de investigación son principalmente la teoría de la información clásica, la teoría de la información cuántica y la termofísica estadística teórica, los fenómenos críticos y la termodinámica del desequilibrio. Se estudia la importancia y aplicación de la teoría clásica de la información en la física estadística.