생각해보면 이말한지도 몇개월되긴했어서

부정적 특들갑 오지는 오늘, 내가 유난히 일없는 지금시간대에 글싸는게 맞다고 생각함


그러니까 다시 말한다

2024 (자율에이전트가 굴리는)자율연구시스템

2025 AGI = 범용재귀개선 = 인간형로봇 굴릴수 있을만한 수준




필요한 전제들

1.언어모델의 핵심능력은 맥락기억과 추론능력임


2.AGI는 거의 대부분의 방면(범용)에서 인간수준으로 작업을 학습 및 수행(재귀개선)해낼수있는 자율에이전트임


3.자율에이전트의 핵심동작은 맥락기억으로 현황 및 시행착오를 기록하고, 추론능력으로 맥락기억에서 남은해결책, 개선된해결책을 수행하는것임


4.따라서 현재 자율에이전트는 대부분 언어모델(이라쓰고 멀티모달이라 읽는)로 시도되고있고 당연히 언어모델의 성능이 거의 자율에이전트의 성능으로 직결됨

당연한소리지만 1:1로 성능비가 자율에이전트에 그대로 적용되는게 아님, 하지만 비례관계인건 확실함


------->이를 전제하고



2024 자율연구 예측근거


1.gpt-4, gpt-4-turbo 로도 자율,재귀성 작업 어설프긴해도 수행됬었음(제일 기억남는게 엔비디아 로봇손, 카네기멜론대학 팔라듐실험논문제작 연구)


2.트윗에서 오픈AI연구원, 출신들, 그리고 다양한 루머계정들이 OAI가 수개월내 내놓을 차기모델의 대표적 기능이 자율에이전트임을 언급함

(핑프라서 과거게시물 일일이 찾아보는거 귀찮음, 너네가 특갤에서 찾아보도록)


3.알트만이 트윗으로는 "2024년은 과거의 모든 시간들중 (AI기술면에서) 가장 흥미로운 시간일것 " 이라고 하고

인터뷰에서는 "개쩌는거 수개월내 나오는거 맞음, GPT-3에서 GPT-4로의 도약과 비슷한 수준의 발전임, 근데 AGI급은 아님"라고 했음


4. 1,2,3의 내용들을 종합하면 올해 나올 OAI의 차기모델은 

'AGI수준에는 못미치지만 종전의 GPT-4기반으로 돌리는거보다는 눈에 확 띄게 좋아진 자율에이전트'일 가능성이 매우 높다는것을 유추할수있음



2025 범용재귀(= AGI) 예측근거


1.지미애플

알트만 해임사건 직전까지만해도 이사회말고는 내부직원들 대부분도 몰랐던 알트만 해임사건 자체를 한달전쯤부터 예견하는등

순수 OAI관련 찌라시 적중률로 SNS에서 권위를 확보한 인물임(해임사건이후부터는 예측트윗 빈도도 떨어지고 틀리는게 가끔 있음) 

하여튼 해임사건 이전부터 지미애플이 수차례 언급해온것이 "이미 OAI내부에서 AGI수준 모델 달성 및 2025년에 AGI 출시예정" 이었음


2.자율연구시스템의 AI연구 친화성

2024년에 도달할 자율에이전트가 가장 큰성능을 낼수있는곳은 당연히 시스템의 외부보다는 내부임(=전산망 내의 작업일수록 안정성과 작업효율이 높다)

따라서 컴퓨터시스템내부의 작업만으로 거의 대부분의 실험이 완성되는 분야인 AI알고리즘 분야에서는 최소한 실험에 필요한 모든 노가다작업들을 수행하는 대학원생수준의 기능을 전담할것이라 예상하고 이에따라 발전속도가 매우 크게 가속할것이라 예상함


3.하드웨어

....... 굳이 뭘 더 말할필요가 있나? 지금 엔비디아 발표만봐도 발전성과 어떻게 될지 보이잖아?


4.언어모델에 의한 블박해독 및 최적화가능성(AI의 이론적성질에 기반한 뇌피셜)

언어모델적 능력(맥락기억, 추론능력)이 대폭상승할수록 AI모델의 은닉층또한 멀티모달의 일종으로써 토큰화 또는 맥락벡터화 하는것이 가능해짐

이에따라 언어모델이 AI모델의 사고구조를 파악해내어 훨씬 효율적이면서도 통제가능한 구조들로 재프로그래밍 하는게 가능함

언어모델이 스스로의 사고과정을 해독 및 파악함으로써 굉장한 이론적 응용들이 나올수있을것으로 기대함


=====================================================================


뭐 꼭 다들 읽으라고 쓰는글은 아니고 

그냥 내가 스스로 참고해서 쓸려고 정리해서 쓰는김에 겸사겸사 올리는 글임