재귀개선하려면 세가지 조건이 필요함
1. 데이터 병목 해결
2. 에너지 병목 해결
3. 컴퓨팅 리소스 병목 해결
1을 가장 확실하게 해결하는 방법은 합성데이터인데 AGI가 생성하는 합성데이터가 재귀개선으로 충분조건이 될지는 아직 모름
그래서 월드모델 구축하기 위해선 공간데이터가 필요함
이걸 엔비디아 짐팬도 알고 일론도 알고 페이페이리도 앎
그래서 페이페이리가 스타트업 시작한게 이 공간데이터
그럼 이걸 수집하려면 결국 휴머노이드가 <어마어마하게> 유포되어야됨
왜냐 한대가 모을 수 있는 양이 너무 적어
하루종일 수집해도 24시간임
그래서 여기서 딜레이가 생길 수 밖에 없어
그리고 이런 이유 때문에 테슬라 주주들은 테슬라가 우리 상상보다 더 빠르게 커질거라고 예상하는거임. 돈을 덜 벌더라도 더 빠르게 생산하고 퍼뜨려야하는거지 테슬라가 월드모델 구축하려면
2. 에너지 병목 이건 미 행정부까지 움직이면 천연가스나 원전 빠르게 다시 돌릴거라 1차는 문제 없는데 그 이후까지 생각하려면 2025년 즈음해서 나오는 핵융합 데모가 성공적이어야 노딜레이가 가능할듯
3. 난 이게 제일 병목이라고봄. tsmc가 너무 나이브함. 샘한테 팟캐스트 브로라고 할 정도였으니 확실하게 뭐가 보여야 생산시설 팍팍 증설할텐데 팹 짓는데 최소 몇년이라.. 지금 나온 구체적 추산은 1년에 생산량 증가가 6-70퍼, 최대로 잡아도 100퍼임
다행히 며칠전에 구글에서 칩도 ai가 디자인하는걸 구현해서 그건 다행이긴한데 그래도 만드는건 결국 팹이 있어야함
이 모든걸 샘이 잘 알고 있어서 다행이고 지금부터가 4D 체스의 영역일듯
누가 더 빨리 인프라 확보하고 칩 생산라인 구축하고
휴머노이드나 비전기기 세상에 널리 뿌려놔서 월드모델 누가 빨리 만들지 싸움
이걸 잘 해내면 이륙이 짧아지고
여기서 오래걸리면 고통스러운 과도기가 길어짐
AGI 때문에 돈은 못벌고
세금은 애매하게 걷히고
엄청난 혁신까진 좀 안나오고
이제 시위하고 AI 욕하고 막 그러는거지
이게 최악의 시나리오 아닌가
1. 데이터 병목 해결
2. 에너지 병목 해결
3. 컴퓨팅 리소스 병목 해결
1을 가장 확실하게 해결하는 방법은 합성데이터인데 AGI가 생성하는 합성데이터가 재귀개선으로 충분조건이 될지는 아직 모름
그래서 월드모델 구축하기 위해선 공간데이터가 필요함
이걸 엔비디아 짐팬도 알고 일론도 알고 페이페이리도 앎
그래서 페이페이리가 스타트업 시작한게 이 공간데이터
그럼 이걸 수집하려면 결국 휴머노이드가 <어마어마하게> 유포되어야됨
왜냐 한대가 모을 수 있는 양이 너무 적어
하루종일 수집해도 24시간임
그래서 여기서 딜레이가 생길 수 밖에 없어
그리고 이런 이유 때문에 테슬라 주주들은 테슬라가 우리 상상보다 더 빠르게 커질거라고 예상하는거임. 돈을 덜 벌더라도 더 빠르게 생산하고 퍼뜨려야하는거지 테슬라가 월드모델 구축하려면
2. 에너지 병목 이건 미 행정부까지 움직이면 천연가스나 원전 빠르게 다시 돌릴거라 1차는 문제 없는데 그 이후까지 생각하려면 2025년 즈음해서 나오는 핵융합 데모가 성공적이어야 노딜레이가 가능할듯
3. 난 이게 제일 병목이라고봄. tsmc가 너무 나이브함. 샘한테 팟캐스트 브로라고 할 정도였으니 확실하게 뭐가 보여야 생산시설 팍팍 증설할텐데 팹 짓는데 최소 몇년이라.. 지금 나온 구체적 추산은 1년에 생산량 증가가 6-70퍼, 최대로 잡아도 100퍼임
다행히 며칠전에 구글에서 칩도 ai가 디자인하는걸 구현해서 그건 다행이긴한데 그래도 만드는건 결국 팹이 있어야함
이 모든걸 샘이 잘 알고 있어서 다행이고 지금부터가 4D 체스의 영역일듯
누가 더 빨리 인프라 확보하고 칩 생산라인 구축하고
휴머노이드나 비전기기 세상에 널리 뿌려놔서 월드모델 누가 빨리 만들지 싸움
이걸 잘 해내면 이륙이 짧아지고
여기서 오래걸리면 고통스러운 과도기가 길어짐
AGI 때문에 돈은 못벌고
세금은 애매하게 걷히고
엄청난 혁신까진 좀 안나오고
이제 시위하고 AI 욕하고 막 그러는거지
이게 최악의 시나리오 아닌가
핵융합이랑 상온상압 초전도체가 빨리 온다면 그나마 과도기 버티는게 가능할지도
월드 모델에 구축에 휴머노이드가 그렇게 많이 필요 할지 지켜봐야됨
해당 댓글은 삭제되었습니다.
결국 에너지 더 필요하면 더 지어야하는건 똑같음. 일정 이상부터 최적화는 한계가 있을 수 밖에 없고, 최적상태에 가기까지도 엄청난 에너지가 필요할텐데 발전소 짓는시간은 결국 물리적으로 선형적일 수 밖에..
님말에 동의하긴 한데 125가 내 생각을 잘 이야기해줬음. 디지털에서 재귀개선하려면 아톰 인프라가 커버가 되어야한다는 뜻임.
ASI까지 안가도 현대보다 나은 수준의 생활이 보장될텐데 끔찍한 과도기라고 보는건 잘 모르겠음 그냥 ASI가 좀 늦어지는거지
AGI만 달성해도 지금까지와는 비교도 할 수 없게 생산성이 향상됨 그리고 간과한 부분이, 지금까지 AI의 발전은 알고리즘과 학습 방법도 계속 진화해왔기 때문에, 가정일 뿐이지만, ASI 급의 AI가 오히려 초기 AGI 보다 전력 소모가 적을 수도 있음 그리고 합성데이터는 이미 증명되지 않았나? 인간 데이터보다 오히려 AI가 만든 데이터가 더 유용한거로
그것만으로 충분하면 좋겠는데 현실적인 제약이 저 병목들이라 효율성 향상으로 커버가 될까
ㅇㅇ 충분할거라고 봄 오픈소스 진영에서는 수백b 짜리 모델을 3b가 따는 일도 있음 그만큼 알고리즘과 학습방법의 영향이 엄청나다는 것임 그리고 o1도 gpt4에서 알고리즘과 학습방법만 바뀌었는데 놀라울 정도로 성능이 향상된 것도 이미 증명했고 그리고 뭐 원전을 짓거나 이런 것도 처음에만 좀 느리지 가속 붙어서 로봇 뽑아내고 이러면 순식간임 가속은 모든 분야에서 일어날 수 밖에 없음
맞네. 건설현장 로봇 투입이 또 가속이 되겠구나
ㅇㅇ AGI 달성 이후에는 모든 분야가 지수적인 발전을 할거임
얘는 아무대나 병목이라고 하네 ㅋㅋ 부족이지
요즘 발전상태 보면 소프트웨어 병목은 별 걱정 안됨 게임 시뮬레이션으로 대부분 커버될듯ㅋㅋ 전기랑 컴퓨팅이 제일 걱정이다