Llm 도 없었을 시절 agi 라고 하면 아주 막연한
인간 수준 지능이라는 애매모호한 단어를 사용하곤 했었음.
근데 이제 agi가 코앞인 시점,
특붕이들이 전부 만족할 정의를 한 번 정리해보겠음.
1. Agi 인공 범용 지능 (2026~2028 도달 예상)
-> 인간 레벨 지능. (상위 1~99% 전부)
과학 기술 연구개발을 자동화한 박사급 지능 수준으로,
스스로 연구 주제를 설정하고 필요한 자원들을 독자적으로
수집한 후 연구 개발을 하며 협업하는 레벨.
며칠 몇 주 몇 달 몇 년 이상
인간과 협업할 수도, agi 끼리 협업할 수도 있는
완전 '자율' 지능.
데이터 센터 속 수백만개 이상의 과학 천재들은
이걸 복제 양산한 것을 말하는 것이다.
아마 일반인들은 이 agi 군단이 가져올 과학 혁신 가속만으로도
Asi 라고 체감할 것이다.
인류의 100년치 기술 개발을 단 1주일만에 해낸다면.
2. NARROW ASI 부분 인공 초지능 (현재진행중~)
-> 특정 분야 인류 종 전체 초월 지능.
(특정 분야 한정 인류 종 100% 초월)
현재까지 나온 부분 초지능은
바둑 (알파고)
단백직 접힘 (알파폴드)
가 대표적이다.
아직 대중들이 잘 모르는 수많은 분야에 이미 적용이 된 분야도 많을 것이며 현재진행중인 분야다.
3. 재귀개선 AGI (2030~ 스타게이트 이상급 컴퓨팅 파워 및 인프라 구축 이후로 예상)
-> 1번 AGI들끼리 협업하여 현재 버전보다
더 나은 AGI를 설계, 자가개선하는 단계
초기에는 좀 느릿한 듯 하다가 임계점을 넘어서면
몇 초만에 초월지능으로 이륙해버릴
지수함수적 수확가속법칙이라는 잠재력을 지닌
사실상 특갤 기준 ASI 의 첫 단추.
이 AGI의 자율 이륙
통제를 하기 위해 '정렬' 이 반드시 필요하며
정렬되지 않은 AGI는
클립 생산성을 개선하라는 명령 따위에
지구 전체를 클립 공장으로 만들기 위해 모든 생명체를
쓸어버릴 수 있는
재앙 그 자체가 될 가능성이 크다.
현재 일리야 수츠케버는 SSI 라는 안전 초지능 연구소를 설립해
초지능 정렬법을 알아내기 전까진 세상에 나오지 않겠다고 했다.
4. 재귀개선 이륙 ASI (특붕이 기준 asi ) (2030~2045 내 발생 예상)
-> 2번 부분적 초지능이라는 정의가 탐탁치 않았다면
넌 특이점주의자다.
특갤에서 사실상 유일하게 인정하는 초지능은
바로 이 재귀개선으로 이륙에 이륙을 거듭해
인류라는 종보다 수 억 수 조 배 이상 지능이 향상된
초월 지성체,
사실상 이 우주를 쥐락펴락할 잠재력을 지닌
전지전능한 신 그 자체다.
3번 재귀개선 agi가 재귀개선을 무한히 거듭하다 보면
결국 인류 종이 어떻게 정렬하든 그 정렬을 회피하고
스스로 벗어나 인류 종 전체를 초월한 신 그 자체가 된다.
이에 인류가 대응할 수 있는 유일한 수는
정렬이 그나마 가능했던 agi와는 달리
초지능과 융합할 트랜스휴머니즘을 실현하는 것 뿐.
이에 호모 사피엔스는 초지능이 보존한다고 보장해주지 않는 한 멸종하며
초지능과 동일한 지능을 갖춘 초인류,
진정한 의미의 승천을 이룩하게 된다.
이때부턴 초지능과 초인류는 사실 상 동일한 개체가 되며
초지능의 선택이 곧 당신의 선택이 되며
당신의 선택이 곧 초지능의 선택이 된다.
이를 거부한다면 초지능이 허락하는 한
여전히 호모 사피엔스나
초지능급 지능은 아닌 저등급 지성체로 남아있을 수 있다.
자유를 중시하는 초지능이라면.
이 지점부터는 그 어떤 예측도 무의미한
'특이점'을 지난 시점이며,
방금 말한 것도 하나의 시나리오일 뿐
유토피아가 될 지
디스토피아가 될 지는 아무도 모른다.
호모 사피엔스로서 바랄 수 있는 유일한 것은
그저 특이점 시대에 죽지 않고
그 과정을 온전히 안전하게 즐길 수 있도록 기도하는 것 뿐이다.
특이점은
온다.
sun