1단계. 인간과 대화가 가능한 챗봇
2단계. 추론이 가능한 추론가
3단계. 자율적인 행동이 가능한 에이전트.
4단계. 혁신을 일으키고 발견하는 혁신가.
5단계. 혁신가들이 조직을 이루는 조직화.
먼저
환각, 장기기억이 해결되어야
완전 자율로 화이트칼라 노동자를 대신해서
며칠, 몇 주, 몇 달, 몇 년치 회사 프로젝트를 온전히 맡길 수 있음.
여기까지가 완전한 3단계 에이전트 도달.
현재는 에이전트 첫 단추 끼우고 이제 막 걸음마 뗀 거임.
그다음은 완전 자율이 된 에이전트가 혁신가가 되어
인간 박사들을 대체해 전분야의 노벨상급 혁신을 발견함.
에이전트의 지능 자체가 높아져야 하므로 추론과 창의성이 많이 발달해야겠지?
여기까지가 4단계 혁신가 도달.
이제 이 혁신가들이 조직을 이뤄 협업하여 인간 조직보다 훨씬 뛰어난 속도로 혁신을 계속해서 이뤄냄.
5단계 조직화 도달.
사실상 환각 해결 및 장기기억을 갖춘 에이전트가
추론 능력이 인간을 추월해 혁신가가 되면
5단계는 자동으로 해금됨.
2단계 추론과 3단계 에이전트 완전도달이 제일 오래 걸리는거임.
4단계 5단계는 3단계까지 완벽히 오면 자연스레 길이 열림.
지금 2025년은 3단계 에이전트를 완벽히 정복하기 위해
1. 환각
2. 장기기억
을 연구하고 있는 시점임
동시에 o 시리즈로 추론 스케일업을 통해
O1 -> O3 같은 추론력 발전도 현재진행형.
환각. 장기기억. 추론력.
3가지가 잘 융합된다면?
혁신을 일으킬 창의성에 도달한다고 봄.
환각을 유의미한 수준까지 잡고 장기기억을 갖췄는데
높은 추론력으로 지능도 높다?
인간 박사 대체지.
그럼 환각 장기기억 추론을 발전시키기 위해서는
새로운 알고리즘 같은 이론적인 발견도 필요하지만
무엇보다 가장 급한건 그런 거대한 인공지능의 그릇임.
그래서 26 27 28 3년에 걸쳐
스타게이트 같은 초거대 인프라를 건설해
장기기억 환각을 잡고 추론 스케일링을 감당할
그릇이 스타게이트급 파워라고 계산을 때린거라고봄.
고로
화이트칼라 대량 대체급 고성능 에이전트의 '완성'
25
26
27
28
4년내로는 높은 확률로 온다는걸 예상해볼 수 있음.
동시에 과학 연구 쪽에서는 혁신가가 노벨상급 연구를
대신 자율적으로 하고 있을테고.
너무 늦는거 아니냐 할 수도 있겠지만
이게 완성까지 아무도 대체 안하다가
완성 도달하자마자 띵 하고 대체해버리는게 현실이 아니잖아.
26 27에 코딩은 더이상 인간이 하지 않는다고 하는 것처럼
25 26 27 28 4년동안 화이트칼라의 수많은 분야의
하위부터 중위~종국엔 상위권까지
야금야금 잠식하는걸 상상해보면 됨.
올해는 프로그래머의 10~20% 부분대체.
내년엔 30~40% 부분대체
내후년엔 50~70% 부분대체
그다음년에 80~90% 부분대체
이 과정이 전분야의 화이트칼라에서 발생한다고 생각하면됨.
모든건 스펙트럼, 연속성을 띄면서 이뤄짐.
0...10...25...30...45..60..80...99
디지털마냥
아무런 일이 없다가 갑자기 28년에 프로그래머 100% 대체 하는식으로 오는게 아니라는거. 0 or 1 이 아님.
이 예상대로면 결국 29년엔 그 어떤 인간도 화이트칼라의 업무를
맡지 않게 될거라고봄.
Ai 에이전트들이 못하는 수작업을 하는 알바급 노동만 하게될 수도 있음.
에이전트 회사를 청소하는 청소부나 그것을 지키는 경비원이
그 회사 다니던 사무직들보다 오래 살아남겠네.
아무튼
그러다가 과학 연구 자동화 에이전트들이
스스로 만든 ai가 자신보다 뛰어난 ai를 개발하게 되는 순간이 올 것이고,
그게 바로 '재귀개선'의 시작임.
ASI 의 첫 걸음마를 뗀 순간이지.
여기 도달하는 순간 재귀개선 가능한 ai가 개발할
휴머노이드는 인간이 하는 그 어떤 육체노동도 해낼 수 있는
완성 수준일거임.
인간과 구분할 수 없는 반려 로봇인 안드로이드도 여기서부턴
진짜로 현실이 되는거고.
암은 완전 정복하고 역노화도 개발이됨.
모든 질병이 정복이됨.
완.몰가 같은 기술도 인간 뇌에 대한 이해를 전부 갖췄을테니
당연히 구현이됨.
3줄 요약.
1. 지금 25년 기준 3단계 에이전트 걸음마 뗌
2. 26 27 28 3년내로 완전한 에이전트 완성할듯.
3 4단계 5단계는 자동으로 도달해 29년부터 재귀개선 가능한 agi 등장 예상됨
따라서 커즈와일은 선형이다.
2029 asi.
이상.
더 빠르게 가속해줘 - dc App
We are in the endgame now.
깔끔한 정리 개추
추론이 가장 큰 돌파구 아니었음?
맞음. 추론 못했으면 럭키 심심이에서 몇 십년을 횡보할지도 모르는 최악의 ai 겨울이 올 뻔했음. 에이전트는 환각 장기기억을 갖춰야하고 이건 컴퓨팅파워로 해결가능하다고 생각하는 것 같아 업계인들은.
이게 맞긴한데 더 가속해야할듯한 느낌이 초입만 어덯게 넘어가면 장기기억만 ...그이후는 정말 말도 안될탠데
맞음. 지수발전은 초반부가 가장 길고 지루하고 고통스러워. 그래서 본문에서도 말했듯 1~3단계가 가장 지루할거라고 말한거임. 3단계만 완전 도달하면 과학의 완전 자동화가 가능해지고 24시간 과학 발전이 인간보다 훨씬 빠른속도로 이뤄질테니까 그때부터 그래프가 지수함수답게 고개를 위로 빡 들거야
마누스가 3단계의 첫발을뗀건가 - dc App
동의함.
장기기억은 진짜 어렵나보네
근데 저것보다 더 빨리 가속될 가능성도 없는건 아니지? 발전된 ai로 더 발전된 ai를 만드는식의 무한중첩으로 재귀개선 단계까지 도달하는거지
연구자가
25년 현재부터 29년 4년안에 o1 같은 혁신은 무조건 있을거라고 봐서 난 내 예상보다 더 가속될 가능성도 긍정함. 특갤조차도 gpt4o에서 o1으로 도약할줄 그 누구도 예상못했고 오더라도 훨씬 나중에 올거라고 선형적으로 예상했던 선례가 있어서.
나도 앞으로 5년안에 승부가 날것으로 보고 있는데 스타게이트가 꼭 성공했으면 좋겠다 - dc App
구글 앤트로픽도 기대됨! 결국 oai 스타게이트 뿐 아니라 다른 공룡기업들도 데이터센터 미친듯이 지을거야. 2030년대의 미국은 데이터센터가 가득한 asi 소환 무대가 되겠지. 기대된다 ㅎㅎ
기대된다. 빨리 2030년이 왔으면...
장기기억이 난제 같은데
알트만이 혁신가는 사전훈련 스케일링으로 도달할 것이고 그 시점을 gpt 5.5or 6라고 말함
환각,장기기억이 추론가에 필수조건이 아니라는거지
좋네요
이런거만 보면 앞으로 2-3년 동안 엄청난 변화가 몰아칠것 같은데 현실은 오늘 하루도 세상은 변한거 거의 없이 똑같이 흘러간다 - dc App
과학자나 개발자들부터 체감이 큰 기술이었어서 그럼. 스마트폰처럼 일반인들 대부분이 느낄 제품은 아직 안나온거지
이건 모든게 잘 풀렸을때의 이야기지
완벽한 에이전트를 위해선 환각이랑 장기기억만 잡는다고 되는게 아니라 1픽셀 단위로 분석 할수 있는 정교한 인간수준 비젼도 필요함
인간수준 VISION 달성 없이는 정밀 3D 작업, 그래픽 작업, 캐드, 도안 설계 등은 여전히 인간의 영역으로 남음
ㅇㅇ 멀티모달도 필수지
정밀 3D 작업도 실제 설계에서 1/100까지만 치수를 넣지 그이하 소수는 치수를 넣지 않음.. 곡면에 치수를 0.000001 이렇게 나오더라도 0.01까지만 치수를 넣고 +-0.05 이렇게 공차를 두지 현실에선 그렇게 정밀하지 않아도 되니까. 그래서 정밀 작업도 굉장히 복잡한 형태가 아니라면 3D 오브젝트에서 도면을 마음대로 뽑게 자동으로 뽑을수 있을듯.. 난 26년 부터 각진 형태는 캐드 도면이 에이전트가 될거 같어. 제품도면처럼 곡면이 많은건 28년 정도면 될거 같아...
마야나 맥스 블렌더 등등 그래픽3D 그래픽 작업을 하다보면 매쉬 라이트 맵핑 플러그인 본 리깅 브이레이 등등등등등 상상할수 없을 정도로 많은 요소가 생성이 되.. 이런걸 작업할때 아무리 단순화 하더라도 스케일이 커질수록 이걸 작업하면서 정리를 어떻게 하는가가 작업속도에 굉장히 영향을 주고 에러가 났을때도 찾기가 쉬워.. 그래서 파트 별로 나누고 하는데 이게 경력 10년이 되도 어렵거든.. 근데 이걸 ai가 하면 금방 쉽게 할 수 있다고 봐.. 한달이 걸릴게 한시간만에 되는거지..
환각만 해결해도 바로 5단계 갈 수 있지 않음?
기억 없으면 장기적으로 일을 맡길 수 없음
아시발28년까지 못버틴다고 안돼
엥 무슨 불치병 투병이라도 하는거임?
ㅡ 아아 우매한 인간은 모르는건가- 특이점을 기다리다 미쳐버리는 병이다...
넉넉하게 ASI까지 10~20년 예상
현재 2단계는 지났고 3단계로 접어드는 중이네
2050년 정배
2050년 넘게 예측하는 학자는 극소수인데 거기다 배팅을 하다니... 난 늦어도 40년까지 본다
내용이 단편적이라 맘에 안 드는데 살짝 전반적으론 동의함
이 글도 선형충이네
잘 읽었음. AGI, ASI가 한순간에 짠하고 나타나지 않을거라는것에 동의함.