Enunciado

Mostre que, para qualquer variável aleatória X e qualquer função f, H f X ≤ H X .

Passo 1

Fala galeraaa!

Vamos que vamos!

Considere duas variáveis ​​aleatórias, X   e   f ( X ) . Usando a fórmula sobre a entropia de duas variáveis ​​aleatórias, temos que:

H ( X ,   f ( X ) ) = H ( X ) + H X ( f ( X ) )

Observe que conhecendo   X , a variável aleatória f ( X )   torna-se absolutamente determinística, ou seja, não há mais incerteza sobre seu valor.

Portanto H X ( f ( X ) ) = 0 o que implica que H ( X ,   f ( X ) ) = H ( X ) . Por outro lado, também podemos escrever:

H X ,   f X = H f X + H f X X ≥   H ( f ( X ) )

o que finalmente implica que:

H f X ≤ H ( X )

Considere a entropia das variáveis ​​conjuntas X   e   f ( X ) .

Resposta

Considere a entropia das variáveis conjuntas X e f(X).