시각모델이었어도 파라미터를 4.0이 갖고 있다 추정되는 2조개 정도로 늘렸으면 똑같이 유능했을거라고 봄
멀티모달에 있어 챗지피티가 시각쪽에서도 잘 적응하고 언어쪽을 향상시키면 시각쪽도 향상된다는걸 근거로 언어가 세상을 해석하는 툴이기 때문에 이런일이 벌어지는거다라고 하는데
막상 시각쪽을 향상 시켜도 언어쪽 및 다른 쪽의 지능이 향상이 됨
언어 ai라서가 아니라 그냥 파라미터 2조개 학습시킬수 있으면 다 유능한거라 보는게 현재까지는 맞다고 생각함. 단, 언어의 경우에는 데이터가 워낙 많으니 학습에 있어서 가장 유용한 모달이었던거고
중요한건 인공신경망 파라미터 개수 늘리는거고 그것만 늘어나면 어디서든 적응을 잘해야한다고 봄
멀티모달에 있어 챗지피티가 시각쪽에서도 잘 적응하고 언어쪽을 향상시키면 시각쪽도 향상된다는걸 근거로 언어가 세상을 해석하는 툴이기 때문에 이런일이 벌어지는거다라고 하는데
막상 시각쪽을 향상 시켜도 언어쪽 및 다른 쪽의 지능이 향상이 됨
언어 ai라서가 아니라 그냥 파라미터 2조개 학습시킬수 있으면 다 유능한거라 보는게 현재까지는 맞다고 생각함. 단, 언어의 경우에는 데이터가 워낙 많으니 학습에 있어서 가장 유용한 모달이었던거고
중요한건 인공신경망 파라미터 개수 늘리는거고 그것만 늘어나면 어디서든 적응을 잘해야한다고 봄
야 그 신경망속에서 분류되는게 언어체계라 가능한거야
그 분류 기준을 무작정 대규모 언어데이터로 돌려서 지금의 기적이 가능해진거임
단일 시각 모델은 그정도를 학습시킬 데이터도 없고 적절한 프레임워크도 존재하지 않음. 그리고 세상의 지식은 언어로 되어있는게 더 많음.
언어가 특별한 게 아니라 언어에서 패턴을 추출하는 딥러닝이 대단하다는 거지?
어차피 순서의 차이일 뿐 멀티모달로 가겠지
인간이 알고 있는 모든 개념이 언어가 있어야 표현되는 거고, 그 '언어'가 담고 있는 의미를 이해 한 순간 인간이 만들어낸 모든 지적 결과물에 대한 이해가 가능해진것. 그래서 언어모델이 중요한거겠지....
보는것도 언어로저장되는거다 세계는언어다 니가 지각할수있는모든건 언어로저장된다 이름이안붙은건있겠지 근데 지각조차못하는건언어로도못부르는것처럼 - dc App
언어가 제일 나은 듯. 논문이며 연구 등이 전부 텍스트로 되어 있고. (과거에는 편지도 중요했고.) . 의사소통에서도 언어가 중요하니까. 비언어적인 요소도 많지만, 그 부분은 좀 어렵기도 하고. . 인간이 다른 동물들과 달리 이렇게 문명을 발전시킬 수 있었던 데에는... 의사소통 능력이 중요했다고 생각함. (사회성/대화/학습 능력 등)
소설 같은 것도 생각하면, 언어로 세상/인간을 거의 비슷하게 표현할 수 있다고 생각함.