그냥 스케일을 늘리다보니 추론 능력도 결국엔 대폭 개선됐다는건지 아니면 뭔가 새로운 방법이 나왔는지 몰라도
opneai나 빌게이츠나 입모아서 2년안에 추론 모델이 대폭 개선될거라고 하는거 보면 뭔가 방법을 찾은거 같음
gpt-5는 기존 언어모델이 가지고 있는 한계들을 극복한채로 나올거 같은데
이러면 정말 인간이 gpt에 비해 나은점이 있을까 mmlu점수는 나오는 시기 감안하면 전문가 점수를 훨씬 웃돌거고
창의력 이런것도 이미 gpt-4만 해도 상위 10프로 이내라는데 gpt-5는 상위 1프로 정도일거 아님 ?
내가 생각해도 방법은 있음
더구나 H100도 나오고 하이에나도 나온 마당에
속도딸 존나 좋아하네
인간은 100년 밖에 못 살아. 속도가 100배 늘어나면 100년 연구할 거 1년만에 하는거야 '속도딸 존나 좋아하네'라 말하는 너는 1000년 사는 하이엘프라도 됨?
추론을 하는거부터 사람보다 뛰어남 agi
일리야가 인터뷰에서, 텍스트 만으로도 세상을 이해할 수 있다고 믿는다더라. 시각은? 이라고 하지만, 빨간색을 표현하는 수많은 언어적 표현을 익히면 눈보다는 느리지만 이해는 할 거라고. 결국, 속도랑 집어넣는 데이터가 더욱 많아지고, 어떤 특이점을 넘어서면 모두가 인정할 AGI의 탄생할거라 생각하는 게 아닌가 싶음. 그러지 않고서야, 2년 이야기를 콕 집어서 하는 게 잘 이해가 안 됨.
갑자기 드는 생각인데...언어 모델가지고만 학습을 시키면 한계가 있을 듯 하다.. agi까지는 가능한데..asi가 되려면...언어 모델 가지고만 훈련 시킨걸로 는 불가능 할듯 해..