가우시안 프로세스 회귀 (Gaussian process regression) 이해 - (2)

가우시안 프로세스 회귀에서 학습하지 않은 데이터에 대한 예측 y*은 베이지안 추론과 다변량 정규분포에 따라 아래와 같이 구할 수 있었다. 여기서 K는 공분산 행렬로 kernel 함수 선택에 따라 하이퍼파라미터가 결정된다. RBF kenel을 쓰는 경우에는 length scale L 와 signal variance σf2 두 가지 하이퍼파라미터를 결정해 주어야 하며, 노이즈의 분산 σn2까지 총 세 가지 하이퍼파라미터를 결정해야 한다. 세 가지 하이퍼파라미터의 값에 따라 위 수식의 예측 정확도가 달라지므로, 적절한 하이퍼파라미터 값을 선정하는 것이 중요하다. 가우시안 프로세스 회귀에서는 주로 바에시안 추론에 따라 로그 주변 우도를 최대화할 수 있는 값을 최적의 하이퍼파라미터로 결정한다. 우선 선형 회귀 식을 예시로 Maximum a posteriori (MAP) estimation, 최대 사후 추정을 살펴보자. 최대 사후 추정은 사후 분포, posterior를 최대화할 수 있는 값으로...

원문링크 : 가우시안 프로세스 회귀 (Gaussian process regression) 이해 - (2)