원래는 애가 학습할 수 있는 데이터가 텍스트에 국한됐었는데
얘는 신경망 자체가 멀티모달이니깐 당연히 텍스트뿐만 아니라 음성, 소리, 사진 등 훨씬 많은 데이터로부터 학습을 하고 가중치를 조정했을 거잖아
입출력에 대한 이해를 넘어 내부적인 세상에 대한 이해 (그냥 비유임) 자체가 더 다각도로 변한 거임
원래는 애가 학습할 수 있는 데이터가 텍스트에 국한됐었는데
얘는 신경망 자체가 멀티모달이니깐 당연히 텍스트뿐만 아니라 음성, 소리, 사진 등 훨씬 많은 데이터로부터 학습을 하고 가중치를 조정했을 거잖아
입출력에 대한 이해를 넘어 내부적인 세상에 대한 이해 (그냥 비유임) 자체가 더 다각도로 변한 거임
너도 월드모델 아나보네 맞음 그게 세계를 이해하는 진정한 agi의 시작이라고들 연구자들이 많이 얘기했음
오 방금 생각 난 건데 연구자들이 얘기한 거라니깐 기분 좋네 ㅋㅋㅋ
월드 모델 머리속에 중력이라는 말을 들으면 뉴턴 아인슈타인 시공간 사과의 떨어짐 중력의 그래프 파라볼릭 곡선 블랙홀 이런것들이 한꺼번에 떠올라야 가장 정확한 인간의 답변을 할수있다 따라서 모든것을 제대로 이해하는 모델=머리속에 인간과 같은 세계가 그려지는 모델=월드 모델임
근데 내가 궁금한 건 지금 풀린 제한된 버전의 4o도 월드 모델 자체는 시연에서 보여준 애랑 동일할까? 그렇다고 보는 게 정배긴 한데, 뭔가 실제 써 본 경험 상으로는 그런 느낌은 잘 안 들어서
베타라서 인스트럭션이나 여러가지가 문제가 많아서 생기는 상황인거같긴 함 일단 3주 기다려보자 나도 좀 상태가 이상하게 느껴지긴 함
옴니 마지막 테스트일이 2023년 2월이니까 이때 이미 이정도를 연구해놨다는 뜻
얀르쿤이 맨날 openai와 llm연구자들한테 이부분으로 비판했었는데 이걸 그때 이미 연구해놨을줄은 꿈에도 몰랐음
그래서 얀르쿤이 입꾹닫하고 있는건가?
llm 관련으로 토큰 딱 하나는 여전히 까긴 할듯 ㅋㅋㅋㅋ
눈 코 입 촉각 팔다리 달고 세상 체험해야 제대로 데이터 모은다더라 ㅇㅇ