난 아무리 생각해도 지금의 language modeling 방식의 극단이 agi로 이어질 것 같지가 않음.

그냥 언어를 단어들의 일차원 시퀀스로 보는 관점인데, 사실 그게 아니자나.

우리 머리속엔 시퀀스로 표현된 사상이 있다기 보단 복잡하게 그래프 형식으로 얽혀있는 사상이 있다고 보는 게 더 합리적일테고,

말이나 글로 표출되는 단어 시퀀스들은 그 그래프의 부분 그래프(또는 상황에 맞게 조금 변형된 variant)를 traverse한 결과라고 보는게 맞지 않을까?

(이런 관점에서는 같은 아이디어를 비슷하지만 조금 다른 문장들로 paraphrase 할 수 있는 것도, traverse하는 방법론에 trivial한 변화를 주었다고 보는 걸로 해석 가능, 결국 이 경우는 사상의 본질인 graph는 그대로 유지하는거지)

그렇다면 그래프의 node를 개념, edge를 개념과의 연결관계라고 해석 가능하고, 외부 정보->node, edge로의 mapping을 인식, 또는 perception, 상황에 맞게 sub-graph를 파싱하고 거기에 적절한 변형을 가하는 걸 reasoning이라고 볼 수 있을거 같음

희망적인 사실은 지금 딥러닝이 상기 perception 쪽에서는 인간 수준의, 더 나아가 인간 이상의 퍼포먼스를 보이고 있다는 점임.(real-world의 비가공 정보에서부터 1차원적인 정보의 추출의 영역, 예: 물체 인식, 분류 등)

별로인 점은 후자의 logical reasoning, 즉 확립된 개념들의 subset을 문제에 맞게 적절히 선택해서, 그 개념들 간의 연결관계를 새롭게 형성하여 새로운 사고를 창발하는 것을 잘 못한다는거지.

어떻게 보면 이건 뉴럴넷에서 대표적인 문제인 OOD(Out-of-distribution)문제의 페러프레이즈라고 볼 수 있는데, 요지는 OOD 문제를 reasoning으로 파훼할 수 있느냐라는게 되겠음.

근데 language modeling의 기본적인 objective function은 MLE 기반의 ERM(Empirical Risk Minimization)알고리즘이자나.

여기서 우리가 objective function에 대하여 재고하지 않고 그냥 스케일링만 시켜서 reasoning이 창발되길 기다리는 건 비현실적인 것 아닐까?

오히려 reasoning이라는 것은 문제의 해답을 찾기 위한 step-by-step의 여정이고, 이게 진짜 sequence 아닐까.

그리고 문제의 해답을 찾기 위한 sequence modeling이면 역시 강화학습이고.


쨋든 갠적인 전망은 explicit한 concept encoding으로 common sense를 intermediate representation으로 갖고, 그것과 문제 상황 튜플을 state로 갖는 강화학습 agent가 sequential reasoning을 하는 model이 진짜 agi에 다가가는 모델이 아닐까 함