[수리통계학] [9] Important Inequalities

1. Introduction

1.1. Theorem [1] : moment 관련 Theorem

- R.V. X와 양의 정수 m이 있다고 가정하자.

- E[X^m]이 있다고 가정할 때, m보다 작은 양의 정수 k에 대해서, E[X^k]는 존재한다는 정리이다.

- 증명을 하는데, 사용되는 아이디어는 x가 1보다 작으면 계속 거듭제곱을 하면 작아지기에,

- 그냥 1을 곱해주는 것보다 작다라는 아이디어를 사용하게 된다.

 

1.2. Theorem [2] : Markov's Inequality

- 증명은 되게 간단하게 가능하다.

- 여기서 두개의 범위로 쪼개지게 되는데 여기서 둘다 양수임이 자명하니 다음과 같은 조건이 만족한다.

- 여기서 A는 u(x) >= c

는 u(x)를 c라고 바꿔도 부등식은 만족한다.

 

- 다음과 같은 증명을 통해 Markov Inequality을 유도할 수 있다.

1.3. Theorem [3] : Chebyshev's Inequality

- 이를 이용하여 간단히 평균과 표준편차를 알면 상위 몇%에 속하는지 알 수 있다.

- 증명은 다음과 같이 Markov's Inequality를 이용하여 할 수 있다.

- 여기서 E[(X-mu)^2] = sigma^2 와 같으니 다음과 같이 정리가 가능하다.

1.4. Definition [1] : Convex function

- 우리가 고등학교 시간 때 배운 아래로 볼록함수와 동일하다.

 

1.5. Theorem [4] : Jensen's Inequality

- phi를 convex function을 나타낸다고 할 때 다음과 같은 부등식을 만족한다.

- 이를 만족한다는 것을 보려면 간단하게 기하적으로 접근하면 다음과 같이 쉽게 생각 가능하다.