ㄹㅇ 개꿀잼 페이퍼네 ㅋㅋㅋㅋ
솔직히 agi에 direct로 이어질지는 모르겠는데,
i) Sequential decision making을 에너지 베이스드 모델처럼 모델링해서, RL에서 prevailing한 TD 메소드에서 inspired된거같은 플로우 매칭을 통해 학습시킨다는 점,
ii) 그리고 이렇게 모델을 학습시킨다면 naive한 inference 뿐만이 아니라 F(s0)가 사실상 기존에 intractable 하다고 여겨졌던 partition function을 모델링하게 됨으로서 통상적인 확률모델의 conditional inference를 가능하게 한다는 점
이 되게 흥미롭고 재밌는듯.
무엇보다도 튜토리얼이 진짜 딱 알기 쉽게 잘써져있고
(https://milayb.notion.site/GFlowNet-Tutorial-919dcf0a0f0c4e978916a2f509938b00)
옆 연구실 generative model연구하는 사람이랑 코웍할거 같은데 이거 밀어봐야겠다 ㅋㅋㅋㅋ
근데 딱 하나 걸리는점은 벤지오가 이거에 엄청 빠진거는 맞는데, 그게 이게 자기 아들이 고안해 낸 방법이라 편향성 가지고 빠진건지 아니면 이게 진짜 미래라고 생각해서 빠진건지 구분이 안된다는 거 ㅋㅋㅋ
Agi언제나올지 예측부탁
솔직히 참신한 루트가 나온거같아서 들뜨는거같음
자기 아들이 그걸 다 생각해냈다고 생각 안함 자기 아들한테 본인이 맞다고 생각하는 길을 물려주는 느낌이었음. 연구 잘 되길 바람
벤지오 system 2 딥러닝 톡 많이 찾아 들은 입장에서 지난 수년간 벤지오가 현재 딥러닝 돌파구 고민하다 결국 찾아낸게 지플넷이라고 보여짐 본인 연구수명이 다하기 전에 마지막으로 불태우고싶은것같음
갠적으로 시스템2 ai 굉장히 공감하고 (conscious prior도 알겠네 그럼?) 그 취지에서 gflownet이 진짜 잘 부합한다는 것도 인정함. 난 특히 causal inference랑 learning objective가 결합되어야 된다고 맨날 생각했었는데 기본적으로 gflownet은 단순한 statistical correlation을 떠나 causal structure을 내재하고 있으니까. gflownet의 DAG 아키텍쳐가 causal inference에서의 Structural causal model과 공명하는건 우연이 아닌거 같음
causality 쪽 잘 모르지만 내 기억으로 튜토리얼 맨 마지막 페이퍼가 causal graph 구조를 gflownet으로 찾은 페이퍼였던거같음 성능 자체는 크게 좋지는 않았던거같은데 무튼 추구하고자하는 방향이 그런거같음 그리고 결국엔 latent 한 요소를 계속 집어넣어서 결국 모든게 latent space한 상황에서 지플넷이 구현되어야할듯
latent에 관한건 그냥 내 생각임. 무튼 지플넷 자체는 믿고 따를만하다 생각
근데 이거 ㄹㅇ 특갤러들한테 이해할 수 있도록 글 쓸거임? EBM, RL, MCMC서부터 확률 그래피컬 모델에서의 인퍼런스까지 걸쳐있는 도메인 너무 넓어서 쉽게 쓰기 진짜 힘들듯
걍 해본소리지머 ㅋㅋ 너가 나중에 함 써바 연구 직접 하게되면
튜토리얼 번역해서 블로그 형식으로 남겨도 한국인들한테 도움 많이 될듯
닙스 준비하던거 엎어져서 가슴아픈데 ㄹㅇ 연구방향 이쪽으로 정해지면 나도 정리할 겸 포스팅 생각해봐야것다 ㅋㅋ
말투 씹 ㅋㅋ 씹덕들 말투같네 very interesting한~ 오 이런 situation에서는 그런 attitude를 취하면 안돼요~! 같은 느낌이노 ㅋㅋ
ㅋㅋㅋㅋㅋㅋㅋ
근데 머학원에서 페이퍼랑 살다보면 걍 이렇게 됨; 랩에서 점심 메뉴 고를때도 exploration 할건지 exploitation할건지 정하자 막 이러는데 ㅋㅋㅋㅋㅋ
ㅋㅋㅋㅋㅋㅋ 그냥 존나 신기해서 ㅇㅇ 학문에 열정이 깊은 친구인가보네 힘내라