근거있는 반박, 전문가 지적 환영

[용어정리]
일단 용어 정리하고 갈게

기억은 일화 기억같이 경험이 저장된 걸 이야기함
주로 키워드로 저장되지. 본 장면이 사진처럼 기억되는게 아니라 키워드들과 감정들의 조합등으로 저장되고 나중에 회상할때는 그 키워드에서 복기하는 경향이 있지.
맞아. VAE랑 매우 유사한 상황이라 할 수 있어.

유추는 신경망의 구조를 저장하는 걸 의미함.
'곱셈은 덧셈을 여러 번 한 거다' 라는 걸 들었을때
덧셈이 뭔지 생각하고, 이런 말을 했을 때 어떤 행동들을 통해 새로운 지식을 얻게 되었는지 같이 저장된 Sequence임
이건 사람과 인공지능이 약간 차이가 있을 수 있는데 후술할게.

[나이브한 구현]
-기억
기억은 어떻게 구현할 수 있을까? 사실 이 VAE관련 문제는 GAN에서 많이 연구되어왔어. 차원을 줄여 매핑하고 매핑한 평면에서 원본을 복원하는거지.
상황을 평면상의 한 점으로 만드는 신경망을 만들고 평면상의 한 점을 다시 복원하는 신경망을 만들어. 그러면 평면상의 점의 위치, 내지는 시간에 따른 궤적이 기억이라고 할 수 있겠지? 이미 잘 풀리고 있다.

-유추
특갤에서 이야기가 많이 되는 부분은 유추에 가까운데, 유추를 할 수 있어야 창발적인 무언가가 가능해지기 때문이야.
지금의 AI는 아무래도 덧셈에서 곱셈을 유도시키기 어려우니 말이야.

그런데, 이건 인간에게 하드코딩된 부분이야. 지식을 추상화하면 더 빠르고 정확하게 새로운 지식을 얻을 수 있지만, 이건 호르몬과 신경구조로 그런 경향성(욕구)를 가지기 때문이지. 신경망은 지금까지는 기존의 기억에 반추하여 새로운 지식을 빠르고 정확하게 습득할 이유가 없었어. 이건 알파고에서 바둑 환경(env) 만들어줬듯 부가적인 작업이 필요한 부분이겠지.

그러면 어떻게 해결할 수 있을까? 일단 진화는 별로야. 자체 내재화를 시켜버리면 사람이 검토하기 어려울 뿐 아니라 어떤 상황이 벌어질지 몰라. 미지의 것을 관리할때는 언제나 화이트리스트여야 부정적 영향을 최소화할 수 있지.

가장 막연한 방법은 역시 신경망을 붙이는거야. 신경망에 관한 신경망, 이걸 메타 신경망이라고 하자. 메타 신경망은 문제에 적용되는 신경망의 구조나 어떤 상황일 때 이 뉴런이 쓰이는지 등을 처리하는 신경망이야. 물론 하나의 신경망일 필요는 없어.

그리고 이 신경망의 결과를 바탕으로 생성적으로(Generative하게) 신경망을 만드는거야. 신경망이 만들어내는 대상이 사진에 그치지 않고 신경망까지 이어지는거지. 그리고 그 신경망의 출력은 다른 신경망과 연결되고, 메타 메타 신경망도 만들고...

[결론]
여기서 주목할 점은 기존에 있는 기술로 모두 설명했다는거야.
물론 더 좋은 해결방법이 있을 수 있지. 이건 가장 나이브하게 실현 가능성만 따져봤을 뿐이야. 각각의 기술은 발전하고 있고, 하드웨어와 소프트웨어(현존하는 신경망기술)가 무르익으면 이를 조립하기는 그렇게 어려운 일이 아닐거라고 생각한다. 더 남은 단계가 없다는 이야기야.

이게 내가 생각하는 패스웨이 다다음 단계야.
그리고 여기까지가
AGI라고 생각함.

- dc official App