[수리통계학] [2.3] Conditional Distributions and Expectations

1. Introduction

1.1. Difinition [1] Conditional Distribution

- Conditional Distribution은 다음과 같이 정의된다.(Conditional Probability와 거의 유사)

- 다른 표기로는 다음과 같이 나타내기도 한다.

- 위의 표기들은 Discrete R.V. 일때의 표기인데, Continuous R.V.일 때의 표기는 다음과 같다.

 

- 이를 이용하여 the conditional probability that a < X2 < b, giben that X1 = x1를 구하면 다음과 같이

- 정적분을 통해서 쉽게 구할 수 있다.

1.2. Difinition [2] : Conditional Expectation

- Conditional Expectation도 다음과 같이 간단하게 정의되어 있다.

1.3. Difinition [3] : Conditional Variance

- Conditional Variance도 다음과 같이 쉽게 구할 수 있다.

1.4. Theorem [1] : E[E[X2|X1]] = E[X2] (law of iterated expectations)

- 증명은 다음과 같이 Backtracking하여 증명 가능하다.

- 해당 식의 의미는 다음과 같이 생각하면 좋다.

- 학생의 시험점수가 X2고, X1이 그학생의 공부시간이라고 가정해보자.

- 먼저, 특정 공부 시간 X1을 알고 있을 때, 학생의 예상 점수 E(X2|X1)을 계산할 수 있다.

- 모든 학생의 공부시간 분포에 대한 정보가 있기에, 전체적으로 평균적으로 기대할 수 있는 점수는 다음과 같다.

- E(E(X2|X1)]

- 근데, 이 값은 결국 우리가 공부시간을 고려하지 않고 그냥 학생들의 전체 평균 점수 E(X2)를 계산하는 것과 동일하다는 것이다.

 

1.5. Theorem [2] : Var[X2] = E[Var[X2|X1]] + Var[E[X2|X1]]

- 증명은 다음과 같이 Tricky하게 가능하다. (증명이 틀릴 수도 있으니 틀린부분이 보인다면, 댓글부탁드립니다.)