혹시 GPT랑 제미나이는 인터넷 정보를 대답하고, 그록은 트위터 정보를 대답하냐. 그게 지식의 소스냐고 묻는다면 아님.
LLM은 그렇게 작동하는 건 아니고.....GPT랑 제미나이가 웹검색 기능'도' 가지고 있는거임.
무슨 데이터를 학습했는지는 제대로 안 밝히긴 하겠지만, 보통 위키 데이터, 그리고 트위터 데이터들을 주로 썼다고 알려져있을거임. 기술문서에 적혀있다는 것 같은데. 트위터에 지식인들이 많아서 주요 계정 잘 고르면 양질의 데이터라나봄.
어쨌든, LLM은 일단 수많은 데이터를 가지고 학습을 마치는데, 일종의 엑기스를 뽑아낸거라고 보면 됨. 그게 각 AI의 기본 성능을 좌우함.
즉, 그록도 나름의 자기 데이터셋에서 엑기스를 뽑아냈을거고, 이걸로 대답하는거지.
익명(175.206)2024-02-22 18:26
답글
입력 데이터가 많을수록, 그리고 모델이 클수록 성능이 좋다곤 알려져 있는데. 그게 GPT랑 제미나이인거지.
인터넷 정보 긁어온다는 건, 이미 완성된 모델한테 인터넷 검색한 결과를 읽고 출력하라는거지 기본 성능에 영향을 주는 건 아님. 이미 결정됨.
다만, GPT4급의 LLM을 만드는 데 무슨 더 뛰어난 기술이 있는지는 모름. 제미나이가 환각을 도저히 못 잡는 거 보면 openAI가 뭔가 기술적으로 앞서있는 것 같긴한데. 일단 제일 몸통이 되는 성능은 그냥 학습데이터랑 파라미터.
그록도 학습데이터를 잘 정리하고 파라미터 큰 모델을 썼다면 기본 성능은 좋을거임. 여기에 자기들만의 뭔가 통찰력 있는 아이디어를 넣었다면 더 의미있는 모델이 나오겠지. 수학, 과학 이런 말 자주 했으니까 이쪽에 강점이 있을수도.
익명(175.206)2024-02-22 18:30
답글
근데, 그냥 GPT4나 제미나이보다 명확하게 뛰어났다면......이미 호들갑 떨었을 것 같고. 왠지 그 정도는 아닐 듯.
해당 댓글은 삭제되었습니다.
그럼 그록이 아무리 뛰어나도 정보량이 ㅈㄴ딸려서 개쓸모없는거 아님?
혹시 GPT랑 제미나이는 인터넷 정보를 대답하고, 그록은 트위터 정보를 대답하냐. 그게 지식의 소스냐고 묻는다면 아님. LLM은 그렇게 작동하는 건 아니고.....GPT랑 제미나이가 웹검색 기능'도' 가지고 있는거임. 무슨 데이터를 학습했는지는 제대로 안 밝히긴 하겠지만, 보통 위키 데이터, 그리고 트위터 데이터들을 주로 썼다고 알려져있을거임. 기술문서에 적혀있다는 것 같은데. 트위터에 지식인들이 많아서 주요 계정 잘 고르면 양질의 데이터라나봄. 어쨌든, LLM은 일단 수많은 데이터를 가지고 학습을 마치는데, 일종의 엑기스를 뽑아낸거라고 보면 됨. 그게 각 AI의 기본 성능을 좌우함. 즉, 그록도 나름의 자기 데이터셋에서 엑기스를 뽑아냈을거고, 이걸로 대답하는거지.
입력 데이터가 많을수록, 그리고 모델이 클수록 성능이 좋다곤 알려져 있는데. 그게 GPT랑 제미나이인거지. 인터넷 정보 긁어온다는 건, 이미 완성된 모델한테 인터넷 검색한 결과를 읽고 출력하라는거지 기본 성능에 영향을 주는 건 아님. 이미 결정됨. 다만, GPT4급의 LLM을 만드는 데 무슨 더 뛰어난 기술이 있는지는 모름. 제미나이가 환각을 도저히 못 잡는 거 보면 openAI가 뭔가 기술적으로 앞서있는 것 같긴한데. 일단 제일 몸통이 되는 성능은 그냥 학습데이터랑 파라미터. 그록도 학습데이터를 잘 정리하고 파라미터 큰 모델을 썼다면 기본 성능은 좋을거임. 여기에 자기들만의 뭔가 통찰력 있는 아이디어를 넣었다면 더 의미있는 모델이 나오겠지. 수학, 과학 이런 말 자주 했으니까 이쪽에 강점이 있을수도.
근데, 그냥 GPT4나 제미나이보다 명확하게 뛰어났다면......이미 호들갑 떨었을 것 같고. 왠지 그 정도는 아닐 듯.
고마워요 지식인 내공냠냠