[확률과 통계] - (12) Markov’s inequality(마르코브 부등식), Chebyshev's inequality(체비쇼프 부등식)

 

 

 

Markov inequality와 Chebyshev inequality 모두 모집단의 분포를 모를 때 사용 가능한 부등식입니다.

 

 

 

 

 

 

Markov’s inequality (마르코브 부등식)

Markov's inequality은 음이 아닌 확률 변수가 어떤 양의 실수 이상일 확률의 상계를 나타내는 부등식입니다.

확률과 기댓값의 관계를 설명하고, 확률 변수의 c.d.f에 대해 느슨하지만 유용한 한계를 제공합니다.

 

 

Markov's inequality은 다음과 같습니다.

 

 

P(X > 0) = 1 을 만족시키는 확률변수 X에 대하여 다음 부등식이 성립합니다.

$$ P(X \geq t) \leq \frac{E(X)}{t}  ,\;\;\;\forall{real \;\;t>0}$$

 

 

이는 분산이 없어도 평균으로만 유도 가능한 부등식입니다.

 

 

 

 

 

 

증명)

 

이산확률변수의 경우

$$E(X) = \sum_{\forall x}xf(x) = \sum_{x < t}xf(x) +\sum_{x \geq t}xf(x) $$

 

 

$$이때 \;\; \sum_{x < t}xf(x)\; +\;\sum_{x \geq t}xf(x) \;\;\geq \;\; \sum_{x \geq t}xf(x) \;\;\;\; \because \sum_{x < t}xf(x) \geq 0$$

$$\sum_{x \geq t}xf(x) \; \geq \;  \sum_{x \geq t}tf(x) \;\;\; \because x \geq t$$

$$  \sum_{x \geq t}tf(x) = tP(X \geq t)$$

 

 

결국 다음 식이 유도됩니다.

$$E(X) \; \geq \; \sum_{x \geq t}xf(x) \; \geq \; \sum_{x \geq t}tf(x) \; = \;  tP(X \geq t)$$

$$\therefore  \frac{E(X)}{t} \geq P(X \geq t)$$

 

 

 

 

 

연속확률변수의 경우

$$E(X) = \int_{-\infty}^{\infty}xf(x)dx = \int_{t}^{\infty}xf(x)dx  \;+ \;\int_{-\infty}^{t}xf(x)dx $$

 

 

$$이때 \;\;  \int_{t}^{\infty}xf(x)dx  \;+ \;\int_{-\infty}^{t}xf(x)dx \;\;\geq \;\;  \int_{t}^{\infty}xf(x)dx  \;\;\;\;\; \because\int_{-\infty}^{t}xf(x)dx \geq 0$$

$$\int_{t}^{\infty}xf(x)dx  \geq \;  \int_{t}^{\infty}tf(x)dx  \;\;\; \because x \geq t$$

$$ \int_{t}^{\infty}tf(x)dx  = tP(X \geq t)$$

 

 

결국 다음 식이 유도됩니다.

$$E(X) \; \geq \; \int_{t}^{\infty}xf(x)dx  \; \geq \; \int_{t}^{\infty}tf(x)dx  \; = \;  tP(X \geq t)$$

$$\therefore  \frac{E(X)}{t} \geq P(X \geq t)$$

 

 

 

 

 

 

 

---

 

 

 

 

 

Chebyshev's inequality(체비쇼프 부등식)

확률분포를 정확히 모를 때, 해당 확률분포의 평균과 표준편차의 값만으로 특정한 확률의 최솟값만큼은 알아낼 수 있는 부등식입니다.

 

 

 

Chebyshev inequality는 다음과 같습니다.

 

확률변수 X의 분산이 존재할 때, 모든 0보다 큰 실수 t에 대해서,

$$P(|X - E(X)|  \geq t)  \; \leq \; \frac{Var(X)}{t^{2}}$$

 

$$\therefore \;\; P(|X - E(X)|  \geq \sigma t)  \; \leq \; \frac{1}{t^{2}}$$

$$\;\; P(|X - E(X)|  < \sigma t)  \; \geq \; 1- \frac{1}{t^{2}}$$

 

 

 

 

 

 

증명)

 

확률변수 Y를 다음과 같이 정의합니다.

$$Y = (X-E(X))^{2}$$

 

 

이때 Y는 어떠한 값의 제곱이므로 항상 양수입니다.

 

$$E(Y) = Var(X), \;\; and \;\; P(Y \geq 0) = 1$$

 

$$P(|X - E(X)|  \geq t) = P(Y \geq t^{2}) $$

$$  P(Y \geq t^{2}) \leq \frac{E(Y)}{t^{2}} =  \frac{Var(X)}{t^{2}}   \;\;\; by \;\; Markov's\; inequality$$

 

$$\therefore P(|X - E(X)|  \geq t) \leq  \frac{Var(X)}{t^{2}}  $$

 

 

 

 

 

 

예제)