[일반] 딥린이 인데 왜 디퓨전 포워드 목표가 왜 가우시안임?

[딥린ㅇ(155.230)]

입력이미지를 모든 차원에서 1로 만들고 다시 노이즈를 빼서

원복하는 방식으로 해도 학습 되기는 하는 거죠?

순수 궁금증입니다.. 

[익명(rechido)]

가우시안 노이즈를 계속 더해주면 점점 가우시안 노이즈가 되잖아 - dc App

[익명(rechido)]

네말대로 1로부터 입력이미지가 복원되려면 점점 1로 수렴하는 과정을 찾아야지 - dc App

[딥삣삐 1(223.39)]

아 코잎값 때문에 가우시안을 빼거나 더해서 가우시안을 벗어나기 힘들겠구나?

[익명(119.197)]

가우시안 노이즈를 더하는게 좋은 성질을 가지고있어서 그래 Forward step에서 affine 결합으로 가우시안 노이즈를 계속 더해주면 점차 가우시안 분포로 수렴성을 증명할수 있고 덕분에 reverse step도 계산이 비교적 쉬어짐 가우시안 분포는 샘플링도 쉽고 표현력도 풍부하다는 장점도 있음

[딥삣삐 2(143.248)]

디퓨전 이전부터 latent space는 gaussian distribution으로 많이 설정했음. 다른 분포에 비해 샘플링하기도 편하고 kld나 elbo 같은거 계산할 때 analytic하게 할 수 있는 부분도 있고 여러모로 장점이 많음. 이 때 디퓨전이 target space에서 latent space로 가는 forward process를 explicit하게 정의함으로써 대박친거지

[익명(39.7)]

가우시안 안써도 가능은 함 2208.09392 참고