예를들어서 예전에 수잘갤에 썼던



고전 Bayesian 영상처리를 결정론적 방법론을 설명해보면



discrete setting에서 이미지

이미지 svg.latex?u%20=%20(u_%7Bi,j%7D)_%7B1%20%5Cleq%20i,j%20%5Cleq%20N%7D discrete하고 bounded 한 성질을 가진 (예를들어 svg.latex?u_%7Bi,j%7D%20%5Cin%20%5B0,1%5D orsvg.latex?%20%5B0,%20%5Cdots,%20255%20%5D) 2차원 신호로 생각볼 수 있음. 즉, 각 픽셀의 값이 0 (흑) 에서 1 (백)까지 혹은 0 (흑) ,255 (백)까지 값을 가진 함수로 표현 할 수 있음. 



Bayesian 영상처리는 아래 꼴을 가진 inverse problem을 푼다고 볼 수 있음. 


모델: svg.latex?g%20=%20Au%20+%20n

여기서 svg.latex?A는 영상처리 문제에 따라서 denoising (svg.latex?A=Id), inpainting 의 경우는 sampling operator (svg.latex?A=%5Cmathcal%7BS%7D), deblurring 같은 경우는 (svg.latex?A=k%20%5Cast%20a등으로 보면 되고

svg.latex?g=(g_%7Bi,j%7D)는 주어진 이미지

svg.latex?u=(u_%7Bi,j%7D)는 우리가 원하는 완벽한 이미지

svg.latex?n=(n_%7Bi,j%7D)는 평균 0, 표준편차 svg.latex?%5Csigma 인 Gaussian noise로 보자.


A-priori density: svg.latex?P(u)%20=%20e%5E%7B-p(u)%7Ddu%20, 완벽한 이미지 u의 a-priori information.



여기서는 svg.latex?A=Id 놓고 (denoising problem) Bayes rule을 사용해서 주어진 g에서 u를 아는 a posteriori probability를 구해보자,


svg.latex?P(u%20%5Cvert%20g)%20=%20%5Cfrac%7BP(g%5Cvert%20u)P(u)%7D%7BP(g)%7D%20


위의 이미지 모델 svg.latex?P(g%5Cvert%20u)%20=%20e%5E%7B-%5Cfrac%7B1%7D%7B%5Csigma%5E2%7D%5Csum_%7Bi,j%7D%20%5Cvert%20g_%7Bi,j%7D%20-%20u_%7Bi,j%7D%20%5Cvert%5E2%7D,%20%5Cquad%20P(u)%20=%20e%5E%7B-p(u)%7D 대입하면


svg.latex?P(u%5Cvert%20g)%20=%5Cfrac%7B1%7D%7BZ(g)%7D%20e%5E%7B-(p(u)%20+%20%5Cfrac%7B1%7D%7B2%5Csigma%5E2%7D%5Csum_%7Bi,j%7D%20%5Cvert%20g_%7Bi,j%7D%20-%20u_%7Bi,j%7D%20%5Cvert%5E2)%7D


svg.latex?%5Ctext%7Bwhere,%20%7DZ(g)%20=%20%5Cint_u%20%20e%5E%7B-(p(u)%20+%20%5Cfrac%7B1%7D%7B2%5Csigma%5E2%7D%5Csum_%7Bi,j%7D%20%5Cvert%20g_%7Bi,j%7D%20-%20u_%7Bi,j%7D%20%5Cvert%5E2)%7Ddu


영상처리 문제를 풀기 위한 maximum a posteriori (MAP)는 아래식을 최적화 시키면 얻을 수 있음


svg.latex?%20%5Cmin_u%20p(u)%20+%20%5Cfrac%7B1%7D%7B2%5Csigma%5E2%7D%20%5Csum_%7Bi,j%7D%5Cvert%20g_i%7B,j%7D%20-%20u_%7Bi,j%7D%20%5Cvert%5E2.


위의 최적화 문제를 continuous setting으로 옮겨서 svg.latex?g%20%5Cin%20L%5E2(%5COmega)svg.latex?%5COmega%20%5Csubset%20%5Cmathbb%7BR%7D%5E2svg.latex?A%20%5Cin%20%5Cmathcal%7BL%7D(L%5E2(%5COmega))를 a bounded linear operator from svg.latex?L%5E2(%5COmega)to itself 로 보면


svg.latex?%20%5Cmin_%7Bu%20%5Cin%20L%5E2(%5COmega)%7D%20%5Clambda%20F(u)%20+%20%5Cfrac%7B1%7D%7B2%7D%20%5Cint_%7B%5COmega%7D%20%5Cvert%20g(x)%20-%20u(x)%20%5Cvert%5E2%20dx.



이런 variational anaysis 형태로 나타낼 수 있음. 즉, 영상처리 문제를 베이지안 관점으로 볼 수도 있고, 아니면 PDE, variational methods의 관점으로도 볼 수 있음.




p.s. 물론 너가 정말 Bayesian의 관점에서 고전 영상처리를 전공한다면 Expectation of u (given g)를 계산하는 방법 을 주로 다룰것임. 다만 아래식은 주로 stochastic technique를 사용함. 


svg.latex?E(u%5Cvert%20g)%20=%5Cfrac%7B1%7D%7BZ(g)%7D%20%20%5Cint_u%20u%20e%5E%7B-(p(u)%20+%20%5Cfrac%7B1%7D%7B2%5Csigma%5E2%7D%5Csum_%7Bi,j%7D%20%5Cvert%20g_%7Bi,j%7D%20-%20u_%7Bi,j%7D%20%5Cvert%5E2)%7Ddu.




딥러닝 이야기 -  충분한 학습 데이터가 있으면 예를들어서 denoising operator 자리에 딥러닝 아키텍쳐를 넣으면 위의 고전 방법들을 압살함.