[📪정보] GFlowNet 요약

[익명(121.191)]

설명을 쓰다 보니까 댓글로는 다 못 달 것 같아서 새 글을 팜.
이해력 좋은 특붕이가 요약해줬으면 함.

GFlowNet은 데이터를 생산하기까지의 과정을 물의 흐름처럼 생각해보자는 데에서 출발함.
(이걸 '네트워크 플로우'라고 그럼)

위 사진에서 세모는 물이 나오는 출발지(source), 네모는 물이 빠져나가는 도착지(sink)임.

동그라미는 물이 거쳐가는 지점인데, 이 글에서는 중간지로 부를게.

이 모양을 응용해서 인공지능 안에서 데이터를 처리하는 과정을 관리하는게 목적임.

1. 속성 부여
이 모델을 활용하기 위해서 도형마다 속성을 부여함.
출발지에는 아무 처리도 안 된 상태, 데이터가 막 입력된 상태고
중간지에는 데이터가 처리된 중간 상태,
도착지에는 최종적으로 만들어낸 결과 데이터라는 속성을 부여함.

어느 지점이든 물이 흐르는 양은 데이터의 정확성임.
지점 사이의 파이프는 흐를 수 있는 물의 양이 정해져 있음.
(= 데이터 변환 과정에서 생기는 정확도 손실은 정해져 있음)

2. 어떻게 써먹냐

문제를 하수관으로 바꾸니까 왼쪽 모양이 됐다 치자.
그러면 네모로 물을 흘려보내기 위한 방법은 여러가지가 있음. 오른쪽처럼 말이야.
그런데 물은 한 쪽 방향으로만 흐르잖아?
데이터도 똑같다는거지. 네모에서 물을 많이 빨아당기는(정확성을 높이는) 것만 신경 쓰면

물은 자동으로 어떻게 흘러야 할지 안다는거임.

그러니까 하수관을 만들고, 네모에서 물을 최대한 빨아당기는 시뮬레이션을 하면
(물론 물리적인 시뮬레이션은 아님.)

데이터가 흘러오는 경로는 알아서 최적화가 된다는거임.

3. 얻을 수 있는 효과

첫 번째로, 데이터의 흐름이 한 방향으로 정렬됨.
필요한 값이 몇 개든 간에, 하수도만 만들어놓으면 알아서 데이터를 어떻게 굴릴지 최적화 한다는 거지.

두 번째로, 데이터를 생산하기 위한 복잡한 처리과정이 줄어듬.
새로운 데이터가 필요해? 대충 찍어서 하수관 만들어놓으면 흐를 놈은 흐르고 아닐 놈은 안 흘러서 최적화된다.

세 번째는 주작용보다는 부작용인데,
데이터의 흐름이 정제됨에 따라 필요한 연산 자원이 많이 줄어듬.

수많은 데이터 처리 경로를 따로 관리하는 게 아니라, 하나의 하수관과 유량 정보만 가지고 있으면 되기 때문임.

네번째로는, AI가 중간 상태를 알아내는데 큰 도움이 됨.
논문에서도 이 점을 크게 봤음.
예를 들어서 게임의 보상을 늘리라고 하면, 이 하수관에 물 흐르는 과정에서 중요한 지점들이 보이게 된다는거임.


이상임.
이걸 어떻게 요약해야하냐. 특붕이들의 많은 관심 바라고
지적은 언제든 환영임.

[익명(121.191)]

'이런 신박한 아이디어가!' 해서 글을 쓰긴 했는데, 아직 파급력에 대해서는 감이 잘 안 옴. 아무래도 후속 논문 나오는 거 봐야지 얼마나 대단한 연구인지 감을 잡을 듯

[ㅇㅇㅇ(14.38)]

[익명(125.137)]

P=NP

[익명(121.191)]

갑자기??

[익명(1.239)]

하수관 아이디어 자체는 상식적인데 그걸 AI분야에서 실제로 어떻게 구현하는지는 컴공쪽 지식이 없는 나같은 문과는 상상도 못하겠다. 이런거 보면 여러 분야에 대한 방대한 지식과 직관을 가진 AGI가 뭘 해낼지 ㄹㅇ 기대된다

[익명(121.191)]

컴퓨터 과학에서 '네트워크 플로우'가 아예 하나의 분야로 정립된 부분이라 개인적으로는 이 연결이 크게 느껴진 듯. 네트워크 플로우에서 연구된 걸 모두 갖다 써먹을 수 있다는거니까.

[익명(49.166)]

이거 얼마나대단한것임?

[익명(121.191)]

'바둑을 잘 둬라' 라고만 해도 포석, 정석, 수순 다 개념화해서 학습할 수 있음. 얼마나 대단한지는 슈퍼 컴퓨터 가진 기업들이 성과 보여주겠지

[익명(49.166)]

새로운 이론하나 나온거네

[익명(121.191)]

그런데 이미 기존 인공지능으로도 어느 정도 하고 있던 부분이라 할 수 없던 게 되는 건 아닌데, 성능 향상이 많이 될 것 같기도 하고 그럼. 기대됨. ㄷㄱㄷㄱ