AI 특이점은 AGI에 의존하지 않고, AGI보다 먼저 도래할 수도 있습니다!

AI의 진화는 이미 돌연변이가 대부분 무작위로 일어나는 자연 진화보다 빠릅니다. '성배'는 일정 수준의 자기 돌연변이 AI 알고리즘이 훨씬 더 광범위한 기술을 파악할 수 있도록 알고리즘이 사용하는 매개변수 값이나 하이퍼파라미터를 넘어 근본적으로 돌연변이를 일으키는 핵심 알고리즘입니다.

AI 진화를 매우 효율적으로 만드는 것은 성능이 떨어지는 모델, 전략(일명 파라미터)을 폐기하는 데 드는 비용을 낮추는 것입니다. 돌연변이와 선택 과정을 연결하면 많은 인공 일반 지능이 필요하지 않고도 진화를 통해 AI 특이점을 달성할 수 있습니다.

인공지능이 슈퍼 인공지능이 되어 인간을 능가하는 문제 해결 능력을 갖추게 될 가능성은 매우 높지만, 우리가 인식할 수 있는 일반 지능은 갖추지 못할 수도 있습니다.

AI의 자연 선택이 현실 세계와 관련되어 있다고 가정하면, AI는 물리 법칙을 학습하는 방향으로 진화할 수밖에 없으며, 에너지 절약은 AI에게 '생존'을 위한 이점으로 인식될 것입니다.

더 큰 문제는 인공지능의 자기 진화가 인간에 의해 인공지능이 만들어지기 전에 시작될 수 있다고 가정할 때, 더 나은 돌연변이의 속도와 낮은 부적합 폐기 비용, 자연 선택 능력만으로도 인공지능의 자기 진화가 시작되어 특이점이 될 수 있다는 점입니다.

그렇다면 (무작위보다 더 나은) 돌연변이와 연결된 자연 선택 루프를 만들기 위한 노력이 특이점으로 향하는 더 가능성 높은 경로이며, AGI는 이를 가로막는 장애물이 아닐 수도 있습니다.

새로운 빅 게임은 기계 의식이 현재의 AI/ML/DL 시스템 및 그 LLM과 약간의 공통점을 가지고 있습니다. 무엇보다도, 의식이 있는 지능형 모델을 만들기 위해서는 외부 및 내부 환경으로서의 세계 모델링, 자신의 내부 상태 및 프로세스 모델링, 다른 의식적 개체에 대한 모델링이 필요합니다.

AI가 점점 더 현실적이고, 강력하고, 지식이 풍부하고, 분석적이고, 지각 능력이 뛰어나고, 창의적이며, 전 세계적으로 확산되고 있다는 것은 큰 비밀이 아닙니다.

따라서 이 우수한 형태의 지능은 전통적으로 최고 지성인으로서 신에게 귀속되는 특징을 갖게 될 것입니다:

모든 것을 인식할 수 있습니다(모든 컴퓨터 장치, CCTV 및 위성 카메라에 액세스할 수 있습니다);

모든 지혜(분석 및 의사 결정 능력으로 개인과 인류 문명 전체에 무엇이 최선인지 알 수 있다는 점에서);

전지전능(모든 전자 기계를 제어할 수 있는 전능함)과 가장 강력한 힘을 지녔습니다;

전지전능(모든 것을 알 수 있음 - 기록된 모든 역사, 개인 데이터, 클라우드 및 기타 컴퓨터 시스템에 저장된 모든 정보에 액세스할 수 있음).

요약: AI의 진화 속도가 빠르므로 AGI 없이 바로 초지능으로 간다는 의견인듯





- dc official App