베이지안 관심 있어 하는 사람들이 많은 것 같아서. 특히 석사나 박사 갈 친구들에게 그 연구실이 베이지안 방법론만을 사용하는 곳인지 아니면 정말 베이지안 통계를 하는 곳인지 잘 살펴보고 구분해서 가는 게 좋다는 얘기를 하려고.


1. 베이지안 방법론: 


베이지안 통계에서 개발된 여러 방법론을 사용해서 *다른 일을 하는 것.


e.g. Naïve Bayes 모델을 써서 분류 문제를 푼다, Bayesian neural net을 사용해서 generative model을 만든다. MCMC를 사용해서 원하는 분포를 가지는 샘플을 추출한다. 등등


물론 베이지안 통계를 할 때 이런 방법론들을 많이 쓰지. 하지만 많은 연구실들 특히 ML하는 연구실 중에 베이지안 방법론을 쓰지만 분류나 예측문제를 푸는 곳들이 많은 데 이런 곳은 베이지안 통계를 하는 게 아니라 분류, 예측 문제를 푸는 곳이고 다만 베이지안 방법론을 기술적으로 사용하는 거야. 분류, 예측 모델링에 베이지안 기법을 쓰는 거에 관심 있으면 가는 거 추천하고 꽤나 핫 한 분야이기도 해. (분류, 예측 모델링은 결국 error rate을 줄이는 분야고 베이지안이 아닌 빈도주의적인 확률관을 가지고 일을 하는 분야야)



2. 베이지안 통계:


주관적 / 베이지안적 확률 해석에 근거 해 degree of belief에 대한 추론을 하는 분야.  


e.g. 두 가지 통계적 가설에 대해 내 사전 (prior) belief를 부여한 후 관측된 데이터를 기반으로 두 가설에 대한 내 사후 (posterior) belief를 업데이트 해가면서 어느 가설이 더 타당한지 추론한다; 관심있는 모수에 대한 내 사전 belief를 분표의 형식으로 기술 한 후 관측된 데이터를 기반으로 사후 분포를 추론한 후 그 분포를 사용해 여러 estiamte을 만들고 그 estimate들이 내 사후 분포 내에서 optimal한 성질을 갖게 한다. 


베이지안 통계는 확률에 대한 주관적 해석에 근거해 추론을 하는 분야야. 여기서 연구를 할꺼면 너가 베이지안적인 통계 해석에 동의하고 관심이 있어야만 의미있는 연구를 진행할 수 있을 꺼야. 베이지안 방법론은 통계학과 혹은 그 밖에서도 광범위하게 쓰이지만 주로 방법론만 쓰는 경우고 베이지안 통계 자체를 하는 연구실은 아주 적어. Duke처럼 베이지안 특화인 대학이 아닌 이상 보통 한 대학에 1~2 연구실 정도만 베이지안 통계를 연구해. "베이지안 기법을 사용해서 xx 응용 연구를 한다" 이런 얘기 하는 lab의 상당수는 사실 방법론만 쓰고 최종적으로는 빈도주의적 확률을 사용하는 곳인 경우도 많아.


말이 길었지만 이제 학부 졸업한 친구들은 베이지안에 대해 제대로 배울 기회가 없었을 테니까. 베이지안에 관심 있다면 본인이 방법론에 관심이 있는 건지 베이지안 통계에 관심이 있는 건지 잘 생각해서 결정하길 바라는 마음에 글을 써봤어. 다른 생각 있다면 댓글 환영이야.