✖Entropie is een maat voor de onzekerheid van een willekeurige variabele. Het meet met name de gemiddelde hoeveelheid informatie in elke mogelijke uitkomst van de willekeurige variabele.ⓘ Entropie [H[S]] | | | +10% -10% |
✖De maximale entropie wordt gedefinieerd als stelt dat de kansverdeling die het beste de huidige kennis over een systeem weergeeft, degene is met de grootste entropie.ⓘ Maximale entropie [H[S]max] | | | +10% -10% |