정보이론 문제인데,

X,Y,Z가 0,1을 확률 0.5로 가지는 확률변수이고, X와 Y, Y와 Z, Z와 X가 서로 독립임.

이때 joint entropy H(X,Y,Z)의 최대, 최소값을 구하고, 그 값을 가지는 경우를 설명하라는데,

애초에 독립이라는 조건때문에 {0,1}^3의 모든 8 원소가 각각 1/8로 등장하는 경우말고는 독립을 만족하지 못하지 않나?

그리고 그 경우에는 엔트로피의 Chain rule까지 갈것도 없이 H(X,Y,Z) = -8 * (.(1/8) * log2 (1/8) ) = 3 이거말고 값이 없는데...


만약에 샘플공간이 [ {x,y,z} = {0,1,0}, {0,1,1}, {1,0,0}, {1,0,1} ] 이렇게 원소를 4개 가지고 각각의 확률이 1/4라면,

x가 0일때는 y가 반드시 1이고, x가 1일때는 y가 반드시 0이니까 X랑 Y가 서로 독립이지가 않음


이런식으로 샘플공간의 원소랑 각각의 확률을 조절해도

위의 원소 8개에 각각확률 1/8 인 경우말고는 어떻게해도 서로 독립이면서 각각의 확률변수가 1:1 비율로 0이랑 1이 나오게 할수가 없는거같은데...


내가 뭘 잘못알고있는건가?