[확률과 통계] - (5) 조건부 결합확률분포(joint conditional distribution)

 

 

이번 글에서는 2개 이상의 확률변수(라고는 하지만 모든 설명은 2개일 때를 가지고 설명합니다)의 조건부 확률과 관련하여 알아보도록 하겠습니다.

 

joint p.f 혹은 p.d.f를 가지는 (이산 혹은 연속)확률변수 X, Y에 대해, 

$$f_1 \;:\;marginal \;\; p.f \; / \; p.d.f \;\; of \;\; X  $$

$$f_2 \;:\;marginal \;\; p.f \; / \; p.d.f \;\; of \;\; Y  $$

 

$$g_1(x|y) = \frac{f(x,y)}{f_2(y)} \;\;\; for \;\; \forall_{Y} \;\; f_2(y)>0$$

 

 

Discrete한 경우에 대한 증명

$$f(x | y) = P_{X|Y}(X=x | Y=y) = \frac{P(X = x, Y = y)}{P(Y=Y)}$$

 

$$따라서 \;\;g_1(x|y) = \frac{f(x,y)}{f_2(y)} \;\;\; for \;\; \forall_{Y} \;\; f_2(y)>0$$

 

 

Continuous한 경우

Conditional Probability를 Joint Probability의 입장에서 본다면 다음과 같이 표현합니다.

$$f(y|x) = f(y |X=x)$$

 

이제 이 경우에서의 확률분포, 즉 조건부 확률밀도함수를 구해보겠습니다.

$$f(y|x)=\frac{\partial }{\partial y}F(y | X =x)=\frac{\partial }{\partial y}P(Y \leq y| X = x)$$

$$=\frac{\partial }{\partial y}\frac{P(y \leq Y, X =x)}{P(X=x)}$$

 

그런데 X와 Y는 Continuous RV이고, 따라서 X = x 일 확률은 0에 수렴합니다. 즉 바로 위 식에서 분자인 P(Y <= y , X = x)와 분모인 P(X = x)은 모두 0으로 수렴하기에 다음과 같이 작성할 수 있습니다.

$$\frac{\partial }{\partial y}\displaystyle \lim_{\Delta x \to 0}\frac{P(Y \leq y, x < X \leq x +\Delta x)}{P(x < X \leq x + \Delta x)}$$

 

이는 CDF로 표현하면 다음과 같아집니다.

$$\frac{\partial }{\partial y}\displaystyle \lim_{\Delta x \to 0}\frac{F_{xy}(x + \Delta x, \; y) - F_{xy}(x,y)}{F_x(x + \Delta x) - F_x(x)}$$

 

 

 

분모와 분자에 미분의 형식을 취하면

$$\frac{\partial }{\partial y}\displaystyle \lim_{\Delta x \to 0}\frac{[F_{xy}(x + \Delta x, \; y) - F_{xy}(x,y)]/\Delta x}{[F_x(x + \Delta x) - F_x(x)]/\Delta x}$$

$$ = \frac{\partial }{\partial y}\frac{\frac{\partial }{\partial x}F_{xy}(x,y)}{f_x(x)}$$

$$ = \frac{\frac{\partial^{2} }{\partial x\partial y}F_{xy}(x,y)}{f_x(x)}$$

$$=\frac{f_{xy}(x, y)}{f_x(x)}$$

 

 

 

따라서 정리하면 다음과 같습니다.

 

$$f(y | x) =\frac{f(x, y)}{f_x(x)} $$

 

또한 X와 Y가 Independent한 경우는 아래 식이 성립할 때입니다.

$$f(x|y) = f_x(x)$$