말이 llm이지 어차피 근본은 딥러닝이잖아.
Oai도 llm벗어난 오감 위주의 모델 열심히 개발중이고
오롯이 "글"만 학습하는 llm은 당연히 한계가 있는게 맞지
근데 멀티모달 달아서 오감을 학습하면 그게 과연 한계 있을까?
인간과의 소통을 llm으로 하는거고
Oai도 llm벗어난 오감 위주의 모델 열심히 개발중이고
오롯이 "글"만 학습하는 llm은 당연히 한계가 있는게 맞지
근데 멀티모달 달아서 오감을 학습하면 그게 과연 한계 있을까?
인간과의 소통을 llm으로 하는거고
llm의 한계라기 보단 transformer의 한계? 인듯
트랜스포머는 원래 오감 학습 잘 했으니까
연산비용의 한계가 크지
개인적으로 본문에 나온 내용이 추론 능력 상승의 방법이 될수도 있다고 보는데 장기기억은 그냥 무조건 스케일을 더 키우고 더 효율적인 알고리즘을 개발해야 하나 싶다 재귀개선은 그냥 모르겠음