GPT-3을 보면 말을 잘 하긴 하는데 정작 말 속을 들여다보면 뼈대가 없음...
물론 텍스트 데이터만 무식하게 존나 때려부어넣으면 뼈대 또한 자연스레 생기겠지만 그러기엔 너무 비효율적이고 그렇게 데이터가 많지도 않음...
그래서 이미지, 동영상 데이터까지 때려 부으면 현실세계를 자연스레 학습해서 말 속에 단단한 뼈대가 생기지 않을까 생각하는게 지금 OpenAI임
그런데 이미지까지는 어찌어찌 해볼만하다 치더라도 동영상은 용량이 이미지에 비해 존나 크다보니 GPT-4 <~ 이새끼 입장에선 학습해야할 양이 막대하게 늘음....
그래서 결국엔 하드웨어 문제인거... ㄹㅇ
물론 텍스트 데이터만 무식하게 존나 때려부어넣으면 뼈대 또한 자연스레 생기겠지만 그러기엔 너무 비효율적이고 그렇게 데이터가 많지도 않음...
그래서 이미지, 동영상 데이터까지 때려 부으면 현실세계를 자연스레 학습해서 말 속에 단단한 뼈대가 생기지 않을까 생각하는게 지금 OpenAI임
그런데 이미지까지는 어찌어찌 해볼만하다 치더라도 동영상은 용량이 이미지에 비해 존나 크다보니 GPT-4 <~ 이새끼 입장에선 학습해야할 양이 막대하게 늘음....
그래서 결국엔 하드웨어 문제인거... ㄹㅇ
GPT-5는 어느수준임?
몰라
내 생각은 파라미터 갯수보단 어떻게 학습시키느냐가 문제같음
어떻게든 최적화 시키면서 데이터 때려박겠다 이건가??
결론은 아직 못해봤다인데 왜 단정을 지음
왜 여기서 논리를 찾냐고
뼈대가 없는 건 지능 문제보다는 의지 문제 아닐까? 인간은 말을 할때 주관적으로 뭔가 전하려는 것이 있지만 AI는 아직 그런게 없지. 그냥 그때 그때 적합한 말을 할 뿐이니 질문이 조금만 핀트가 달라져도 연속성 없는 답을 하는거지. 자신의 주장이 아니라 인간의 질문에 너무 최적화되니까 줏대없어보이는거 아닐까?