이 말 자체는 알트만이 했던 "ai의 지능 증가량은 투입된 자원의 로그값에 비례한다" 라는 말과 일치함.
즉 지능의 선형적 증가를 보기 위해서는 지수적인 자원투입이 필요함.
그리고 알트만의 말에 따르면 이건 비용감소와는 조금 다른 문제인것 같음.
예를들어 gpt4가 처음 나왔을때보다 현재의 4O는 거의 1000배 가까이 싼 가격이지만 결국 성능 고점을 뚫기 위해서는 다시 지수적인 비용 증가가 필요했음(O 시리즈)
알트만은 지능의 선형적 증가는 초지수적인 사회경제적 가치를 갖는다고 주장하는데 이건 굉장히 그럴듯함. iq 80과 160은 겨우 2배의 iq 차이지만 의미가 완전히 다름. 지능의 "선형적" 증가는 분명 초지수적인 가치를 갖는듯함.
이에 동의하지 않는 사람들은 아마 ai의 지능은 진짜 지능이 아니며 인간과는 질적으로 다르다고 주장하는 사람들이겠지 누가 맞을지는..
해당 댓글은 삭제되었습니다.
사실 여기까지 오면 스타게이트로 만들어질 모델이 어느 수준인지 각이 나오지.. gpt5의 100배 수준의 비용 투입이니까.. gpt5의 ln(100) = 4.6배 정도의 지능이겠네 마찬가지로 Gpt5는 gpt4의 4.6배 정도의 지능일거라 생각할 수 있음. 그러니까 스타게이트로 나오는 모델은 gpt4의 약 21배 지능
지금껏 GPT 계열의 스케일링은 log base가 10이었음
ㄴㄴ 거기서 ln이 왜나옴? 왜 지맘대로 밑 정해놓냐 지수적이라는 관점인거면 차라리 sqrt를 박던가..
밑이 10이면 증가량이 너무 낮잖아 그러면 gpt5가 gpt4의 두배고 스타게이트로 나오는 모델이 gpt4의 겨우 4배인데.. 이정도일거라 생각하진 않음
해당 댓글은 삭제되었습니다.
결국 투입된 자원이 지수적 증가를 이루면 사회경제적 가치는 초지수적 증가를 이룬다는 것, 즉 투입된 자원의 지수함수를 취한 꼴이 사회경제적 가치의 발전이라는 거네
그 부분이 문제임. 알트만의 1,2법칙은 이미 여러번 관찰되어서 증명되었지만 3법칙은 관찰된적이 없음. 미드저니 설립자와의 의견 차이도 잘보면 1,2법칙은 의견이 일치하는데 3법칙이 다름
"선형적 지능 증가"라는 현상 자체의 기반이 근 몇년 사이에 이루어졌는데 실증 불가인 게 당연하지... 알트만이 맞았으면 좋겠는데
iq 80이랑 140은 선형적 차이가 아니라 지수적 차이인디. 지금 문제는 iq100 에서 in 102 올리는데 지수적 자원을 필요로해서그렇지
iq는 적절한 예시가 아닌것같음 정규분포라
수능등급으로치면 iq80은 7~8등급정도고 iq160은 1등급중에서도 전국 5등안에 드는정도임
*iq는 중앙값 Q_2를 100으로 삼는 정규분포임 중앙값 100^n에서 (100-20)^n과 (100+60)^n으로 해석해야하기때문에 2배가 아닌 차원이다른 수준의 차이임
iq는 벤치마크점수나 전투력측정기같은 그런 방식의 점수제도가 아니라는뜻
비율로 지능이 n배라고 하긴 뭣하지만 최소한 본문에 어울리게 바꾸자면 "iq100과 iq 115는 포함인구수 상 겨우 2배의 차이가 나지만 의미가 완전히 다름" 이라고 하는것이 올바르겠음
또 돈달라는 소리냐
지능은 객관적인 영역이고 사회경제적 가치는 자기 뇌피셜의 영역아님? ㅋㅋㅋ 결국 돈을 무지막지하게 투입해도 확신하기는 어렵다는말?