- Rényi-Entropie
-
In der Informationstheorie ist die Rényi-Entropie (benannt nach Alfréd Rényi) eine Verallgemeinerung der Shannon-Entropie. Die Rényi-Entropie gehört zu der Familie von Funktionen, die zum Quantifizieren der Mannigfaltigkeit, Ungewissheit oder Zufälligkeit eines Systems dienen.
Die Rényi-Entropie der Ordnung α, wobei α > 0, ist definiert als:
Hierbei ist X eine Zufallsvariable mit Wertebereich {x1, x2 ... xn} und pi die Wahrscheinlichkeit, dass X=xi. Wenn die Wahrscheinlichkeiten pi alle gleich sind, dann ist Hα(X)=log2 n, unabhängig von α. Andernfalls sind die Entropien monoton fallend als eine Funktion von α.
Hier einige Einzelfälle:
welche der Logarithmus der Mächtigkeit von X ist, der manchmal auch die „Hartley-Entropie“ von X genannt wird.
Nähert sich die Grenze von α gegen 1 (L’Hôpital) so ergibt sich:
das der „Shannon-Entropie/Informationsentropie“ entspricht.
Weiter
das der „Korrelationsentropie“ entspricht. Der Grenzwert von Hα für ist
und wird auch Min-Entropie genannt, da es der kleinste Wert von Hα ist.
Die Rényi-Entropien sind in der Ökologie und Statistik als Indizes der Vielfältigkeit wichtig. Sie führen auch zu einem Spektrum von Indizes der Fraktalen Dimension.
Wikimedia Foundation.