[📪정보] AI가 인간 두뇌 규모로 나오려면 얼마나 걸릴까?

[Informa..(59.6)]

출처 : https://cafe.naver.com/futuresci

https://youtu.be/kpiY_LemaTc

2020년에 나온 GPT-3는 1750억개의 파라미터가 있고 훈련하는데 460만 달러가 소모된 것으로 추정됩니다.

두뇌에는 대략 100조개의 시냅스가 있습니다.

파라미터와 시냅스의 차이는 재처두고 100조개의 파라미터를 가진 모델을 비슷한 비용에 훈련시키려면 얼마나 걸릴까요?

AI를 훈련시키는 비용은 지수적으로 줄어들고 있습니다. 그래서 MIT AI 연구원 렉스 프리드먼(유튜브 채널 주인)은 2032년이면 대략 500만 달러 정도로 100조개의 파라미터를 가진 모델을 훈련시킬 수 있다고 예상합니다.

엔비디아 CEO 젠슨 황은 2023년이면 파라미터 100조개를 가진 모델이 등장할 것으로 예상했습니다.

오픈AI CTO 그렉 브록맨은 2019년에 마이크로소프트에서 투자받은 10억 달러를 인간 두뇌 크기 모델을 만드는데 5년 안에 사용할 것이라고 했습니다.