GPT-5는 추론이 가능해진거고?
[일반] 그럼 지금까지의 ai는 추론이라는게 없던 거야?
익명(117.16)
2024-04-10 13:30
추천 1
댓글 10
다른 게시글
-
메타 "AGI 도약 방법 발견...'트랜스포머'와 다른 아키텍처 개발 중 [33][📪정보] 익명(211.59) | 24.04.10추천 31
-
특이점 오는데 학벌이 왜 중요해 이 벌레새끼야 [5][일반] 익명(unhappy7209) | 24.04.10추천 0
-
코딩 젬병 된거면 너프누 ㅋㅋㅋ [1][일반] 익명(115.138) | 24.04.10추천 2
-
트랜스포머가 최근에 나온 혁신인거임? [3][일반] 익명(61.75) | 24.04.10추천 0
-
정부, 빅테크가 주목하는 차세대 범용 AGI에 R&D 집중 지원 [4][일반] 익명(210.178) | 24.04.10추천 0
-
털바퀴(Catcroaches).suno ai [2][🔨활용] 제윾(nakedjake) | 24.04.10추천 2
-
게임오바. 싹다 노동시켜[일반] 익명(123.213) | 24.04.10추천 0
-
클로드 이새끼 갑자기 헛소리 내뱉음 [1][일반] 익명(unkind1037) | 24.04.10추천 1
-
다 api 씀?[일반] 익명(112.186) | 24.04.10추천 0
-
코딩특화는 없냐 [1][일반] OpenAi(makeup8362) | 24.04.10추천 0
샘 알트만은 애벌레 수준의 추론이라고 평가했었음 지금은 몰?루
그럼 통계적 앵무새 드립이 맞는거 아님?
ㅇㅇ 그래서 디스하는 사람들은 너 처럼 말하기도 해
지금까지는 단어들 때려 박아서 패턴 맞추기 수준임
있긴했음 정말 미비한 수준
지금 AI들은 지가 생각을 한다기보단 그냥 엄청난 양의 데이터를 가지고 짜 맞추는거 아니냐?
지듬 모델에 추론이 없다기 보단 성능이 낮은데 차세대 모델은 전반적으로 나아지고 추론이 질적으로 훨씬 좋아지는 거임
사람수준으로 올리면 AGI
다음에 등장할 단어를 확률적으로 맞춘다.......수준은 넘은 게 맞긴 함. 이게 진짜 극초기 언어모델 방식이고 당연히 구림. 단어의 특징을 학습한 후에 배열한다.......는 게 그 다음 방식인데 실전엔 못 써도 많이 개선됨. 서울 단어 숫자에서, 한국 단어 숫자를 빼고, 일본 단어 숫자를 더하면, 동경이 나오긴 했었음. 문제는 문맥에 대한 확률은 없달까. 지금 방식은 트랜스포머. 문맥을 학습하기 때문에 문맥을 학습했다고 보면 되긴 함. 그래서 추론이 필요해보이는 대답을 잘 하기도 했지만. 간단한 추론만 있으면 되는 것도 못 하기도 했음. 학습 데이터 때문인지 몰라도. GPT3에서 문제 중 하나가, 치즈를 냉동실에 넣으면 녹을까? 이런 것도 대답 잘 못 했음. 즉, 지금 방식은 추론의 흉내에 가까울 수있다
그럼 추론을 어떻게 구현해내는가... 르쿤형은 아예 이런 언어모델의 데이터 때려박는 방식이 아닌 걸로 구현해내겠다는 거 같고 OAI는 현재 LLM을 업그레이드해서 더 우수하게 구현해내겠다는 거 같긴 함. 그래서 OAI 까고 싶은 날이면 '그건 추론이 아니야. 흉내일 뿐이지. 간단한 추론에 어마어마한 리소스를 사용해!' 라고 하면 되고 르쿤형 까고 싶은 날이면 '그래, 말은 좋은데 그래서 성과가 뭐 있음? 간단한 추론이라고 가능한 모델 있음?' 이라고 하면 됨.