Actualizado por ultima vez el 9 de mayo de 2022, por Luis Benites.
La entropía de Shannon (o simplemente entropía ) es una medida de incertidumbre (o variabilidad ) asociada con variables aleatorias . Originalmente fue desarrollado para pesar la uniformidad y riqueza de especies animales y vegetales (Shannon, 1948). Su uso se ha expandido a muchas otras áreas, incluyendo:
- La teoría de la información, que considera los procesos estocásticos como fuentes de información,
- Nutrición , donde la métrica de diversidad de entropía de Shannon mide la diversidad en una dieta,
- Física , donde la entropía termodinámica es un caso especial de la entropía de Shannon (Lent, 2019) y también puede usarse para medir información en algunos tipos de funciones de onda (Wan, 2015).
Cómo calcular la entropía de Shannon
Exactamente cómo se calcula la entropía es muy específico del campo. Por ejemplo, no calcularías la nutrición de la misma manera que calculas la entropía en termodinámica. Sin embargo, todas las fórmulas se basan en la métrica original de Shannon, que se calculó de la siguiente manera: Donde:
- H = Entropía de Shannon,
- P i = fracción de la población compuesta por una sola especie i,
- ln = logaritmo natural ,
- S = cuántas especies encontradas,
- Σ = sumatoria de especies 1 a S
Referencias
Proyecto INDDEX (2018), Data4Diets: Building Blocks for Diet-related Food Security Analysis. Universidad de Tufts, Boston, MA. https://index.nutrition.tufts.edu/data4diets. Consultado el 26 de agosto de 2020. Lent, C. (2019). Información y Entropía en Sistemas Físicos. Recuperado el 26 de agosto de 2020 de: https://www.springerprofessional.de/en/information-and-entropy-in-physical-systems/16000644
Patrascu, V. (2017). Entropía de Shannon para información imprecisa y subdefinida o sobredefinida. Recuperado el 26 de agosto de 2017 de: http://arxiv-export-lb.library.cornell.edu/abs/1709.04729v1
Shannon, C. (1948). Una teoría matemática de la comunicación. Bell System Technical Journal Volumen 27, Número 3.
Wan, J. (2015). SE como Medida de la Información en una Multiconfiguración Dirac—Función de Onda de Fock. Letras de física china 32(2):023102
DOI: 10.1088/0256-307X/32/2/023102
