http://www.aitimes.com/news/articleView.html?idxno=131416
2032년 말하는건 55억원으로 gpt 4 학습시키는 걸 말하는거고
2020년 올해에 출시를 가정하면 약 3조 800억원
2024년에 출시를 가정하면 약 3700억원
2032년이 되면 기술의 발달로 약 55억원까지 비용이 줄어든다.
오픈AI가 2018년 첫 출시한 GPT1은 1억 1700만 개의 매개변수로 학습했다. 2019년 4번에 걸쳐 공개된 GPT2는 모델의 크기에 따라 약 1억 2400만개에서 15억개로 GPT1의 10배 수준이다. 올 6월 1750억개의 매개변수로 훈련된 GPT3는 각각 GPT1의 1000배, GPT2의 100배 이상 크기이다.
gpt 1 2018년 (1억 1700만개)
gpt 2 2019년 (1억 2400만개 ~ 15억개) 10배 증가
gpt 3 2020년 (1750억개) 100배증가
gpt 4 2021년 (100조개) 1000배증가
gpt 가 업그레이드 되는 시기는 약 1~2년 사이인 것 같음
기술의 발전의 따라 가격이 점차 줄어드는 것이고, 즉 앞버전 출시일로 대입해봤을때, 2021년에 gpt4가 나올 확률이 크다는 거임
일론 머스크가 5년 내로 인공지능이 인간보다 똑똑해진다고 언급한적이 있는데
2021년에 gpt 4가 나온다고 가정하면
2025년까지 gpt가 4단계는 더 업그레이드될 시간임
즉 gpt8 단계 이내로 인공지능이 인간을 압도할 수 있다고 예상한 것임
반면, 반대측 주장으로는
gpt의 피라미터 작동 방식과 뇌의 시냅스의 구조는 똑같지 않다는 이유로 확신할 수 없다는 주장도 있다.
요약
1. 앞버전 1,2,3 출시 간격을 보면 내년(2021년)에 gpt 4가 나올 확률이 높음
2. 일론머스크는 gpt 8 버젼(2025년) 이내로 인공지능이 인간을 초월할 것으로 예측했음
3. 반대측 주장으로는 인공지능의 논리회로와 뇌의 시냅스 구조는 동일하지 않다, 그러니 갯수가 늘어난다고 인간을 추월할지는 장담할 수 없다.
레이커즈와일은 2029년 정도로 예측했다. gpt는 12단계 정도쯤가 있다.
다음해 떡밥
레커 신간 + gpt 4
확실히 100조개 정도면 어떨지 기대되기는 한다.
온다 특이점 ㄷㄷ 5년안에 Ai가 사람보다 똑똑하다라
근데 인간의 고등지능은 대뇌(뉴런 수 뇌 전체의 20% 비중)에서 이루어지니까 100조개 까지는 필요없을듯. 20조개 이하면 비슷하지 않을까? 파라미터가 시냅스와 다르긴 하지만 뇌의 시냅스라고 해서 무슨 대단한 특성이나 능력을 지닌 건 아니니까 실제로 나와보기 전까지는 알 수 없지.
인공지능이 인간뇌랑 작동방식이 똑같을 필요는 없음 어찌되었든간에 레커가 말한 중국인방처럼 그냥 우리가 인공지능이랑 인간을 구분 못하면 되는거임 그리고 gpt-3은 DNN의 가능성을 충분히 보여준 성공사례임 그리고 당연하게도 GPT-4는 몰라도 언젠가는 DNN다음 기술이 나올거고 그러면 획기적으로 학습속도, 데이터의 양이 효율적으로 변하겠지
일론이 출시일 맞추려고 1조원 가까이 들여서 gpt4 내놓겠냐? 간격으로 기준으로 성능을 예측하는건 아무 도움도 안됨
일론은 그러고도 남음
애초에 일론은 지금 오픈AI 떠난 상태임
오픈ai는 작년에 이미 영리회사로 개편됐고 출시일 맞추겠다고 1조원 들여서 gpt4 만들이유가 전혀없다 55억이라면 모를까 ㅋㅋㅋ
비영리기업도 영리기업도 아닌 중간형태의 새로운형태의 기업이지 1조나 들여서 gpt4만들이유 아예없음
개추
뉴런말고 신경교세포는?
인간 뉴런이 몇개지
860억개. 대뇌가 170억개 소뇌가 690억개. 근데 확실한 건 아니고 대략 800~1200억개 사이로 추정하는데 그나마 가장 정확한 수치가 860억임
파라미터 = 뉴런이라 치면 인간 이미 따라잡은거 아님? 학습 방식이 문제인거 같은데
인간을 가르치듯이 유아에게 글자 가르치는 것부터 시키는게 맞는거 같은데
파라미터는 뉴런은 아님. 뉴런 하나당 천개 정도의 시냅스 연결망이 있으니 그나마 시냅스에 빗대는 정도지. 그래도 시냅스가 더 복잡함. 단지 그 복잡함이 과연 지능을 발휘하는 핵심요소인가 하는 건 명확히 알려진 바가 없지. 뇌 시뮬레이션 하는 과학자들이 얼추 시뮬레이션을 해내는 거 보면 그렇게 대단한 지능적 기능은 없어보이긴 하지만 또 모를 일이지.