최근 읽었던 흥미로운 논문인데, LLM이 AGI라고 우리가 느끼지 못하는 이유는 "실시간 학습" , 그리고 장기기억 때문임


한번 파라미터 튜닝을 하면 다시 트레이닝을 할때 엄청난 비용이 발생함, 그래서 내가 찾은 논문에서는 LLM 모델과 지식그래프의 결합이였음.

그리고 지식 그래프를 마치 LLM의 파라미터 처럼 피드백 루프를 통해 강화학습 시키는거임.


이게 마치 무슨 원리랑 비슷하냐면, 이 모델에서 LLM은 오래된 인간의 진화적 산물인거임.->(진화로 인해 발전한 뇌)

그리고 능동적으로 변화하고 보상함수를 통해 실시간으로 업데이트되는 지식그래프는 한 개인이 아기때부터 성인이 될때까지 발전 시키는 뇌와 비슷한거임. -> (아기 때부터 성인이 될때까지 발전하는 뇌)


지식그래프는 흔히 그래프DB라는 개념으로 크게 볼 수 있는데, 얘는 스키마 리스임. 동적으로 계속 생성이 가능하고 편집이 가능하다는 말임. 

아마 GPT랑 오래 대화해보면 알겠지만, 뭔가 대화는 존나 했는데 남는게 없는 듯한 느낌을 경험해본적 있을거임. 이게 단순히 지식을 설명하는 것에서 그치고,

맥락과 상황을 바탕으로 의미론적으로 지식을 설명하지 못하기 때문임.


그래서 팔란티어 온톨로지가 요새 핫한게 단순히 데이터를 넣는게 아니라, 데이터가 어떤 상황과 맥락에서 나타나고 변화하는지를 LLM 한테 넣으면, 환각이 엄청나게

줄어들면서 얘가 상황과 맥락을 이해한다는거임. 그리고 팔란티어는 그걸 피드백 루프로 만들어서 사람이 온톨로지를 계속해서 개선해나감


이 갤에서는 온톨로지가 AGI랑 반대되는 개념이라 싫어하는 성향이 있는거 같은데, 실제적으로 LLM 이용해서 비즈니스로 활용되어 돈벌고 있는건 팔란티어가 독보적임.


이 온톨로지의 노드와 엣지를 마치 LLM의 파라미터 처럼 활용해 강화학습 시키는 방식을 제안하는 내용이 이 논문임.