continual learning의 큰 세가지 시도 중 generative memory라는 게 있는데
지금 데이터를 학습할 때 동시에 GAN에게 그 데이터를 나중에 생성할 수 있도록 같이 학습을 시켜뒀다가 나중에 다른 태스크를 학습할 때 이전것도 생성시켜 같이 학습시킴
이게 뇌가 해마에서 실제로 수행하는 단기기억 메커니즘과도 비슷하다네
우리가 몇 번이고 이전 사건을 다시 떠올리면서 그걸 '기억'한다고 하듯이
GAN이 지나간 예전 데이터를 다시 '생성'해내는 것도 '기억'해내는 거랑 동일
물론 인간의 뇌는 더 복잡해서 해마가 몇번이고 상기시킨 사건은 신피질의 장기기억시스템으로 넘어가는데
그 부분도 연구가 더 되면 진짜 기억력에 가까워지지 않을까 싶다
댓글 0