[📪정보] AGI를 향해 고려되고 있는 루트들 정리

[특갤용(singularity45)]

https://towardsdatascience.com/lucy-says-hi-2031-agi-and-the-future-of-a-i-28b1e7b373f6

현재의 딥러닝 모델에 누락된 지능의 특성

- 원래 데이터의 확률 분포 이상으로 일관되게 외삽(extrapolation)할 수 있는 능력

- 한 영역에서 다른 영역으로의 비유와 은유 능력

- 외삽과 비유를 통한 이해 능력

아래는 AGI를 향한 루트들

1. GPT 연결주의 루트

연결주의적 접근 방식인 OpenAI의 GPT 아키텍쳐.

- transformer 모델을 사용하는 강력한 인공 신경망을 대량의 데이터로 훈련

- 최신 버전은 방대한 공간을 보간(interpolation)하는 기능 덕분에 인상적인 결과를 생성함

(*보간, 외삽 개념: https://blog.naver.com/happy-das/222372135126)

- 텍스트의 연속적인 예측부터 이미지나 코드의 누락된 부분 완성까지 다양한 영역에 적용 가능

- 문제는 결과 모델이 불안정함. 모델이 '이해'에 도달하지 않고 현재 프롬프트에 통계적으로 적절한 단어를 사용할 뿐

일부는 GPT같은 모델의 규모를 계속 증가시키면 외삽이나 다른 고급 기능이 출현하는 등 질적 개선이 일어날 거라 기대중

2. 하이브리드 경로

연속적인 접근 방식과 이산적인 접근 방식을 결합한 하이브리드 경로. '시스템 1 및 시스템 2 이중성'과 관련.

Daniel Kahneman에 의하면, 우리 뇌가 생각을 생성하는 두 가지 방법은

- 시스템 1: 빠르고 빈번하고 자동이며 무의식. 감각과 환경에 대한 인식과 관련. 최근 딥러닝 모델과 유사.

 연속적이고 미분가능한 공간과 연결됨.

- 시스템 2: 느리고 논리적이고 의식적이고 분석적이며 드묾. 추상적인 계획, 추론, 분석 등 더 높은 인지 기능과 관련.

 규칙, 계획, 논리적 논증 등 이산적인 개별 프로세스와 연결됨.

이를 ai와 연결 지으면,

- 연속적인 방식. 연속적인 공간에서 패턴을 학습하는 미분가능한 프로세스. 현 딥 러닝이 탁월한 영역

- 또는 이산적인 방식. 더 높은 추상적 레벨에서 작동할 수 있는 카테고리, 규칙 및 이산 요소를 사용. 상징적 AI(symbolic AI), 합성 프로그래밍(Synthetic programming)의 영역.

위 두 방식을 통합함으로써 더 강력한 조합을 생성.

DeepMind의 알파고가 하이브리드 방식의 간단한 예. 시각적 패턴의 가치를 학습하는 CNN과 개별 프로세스를 제공하는 이산 몬테 카를로 트리 탐색을 결합함.

(*CNN, convolutional neural network: http://taewan.kim/post/cnn/

 *몬테 카를로 트리 탐색: https://blog.naver.com/hasueng/222244019041)

Yoshua Bengio가 딥 러닝과 다른 알고리즘을 조합하는 방식을 옹호.

3. 가상체현(embodiment) 루트

위 두 방식으론 한계를 넘지 못할 수 있으며, 인간 지능과 비슷하게 어떤 형태의 '몸'과 주변 환경을 상호 작용시키는 방식.

이 때 환경은 가상적. 그러나 환경의 디테일과 복잡성이 중요하며, 때문에 실제 세계가 AI 개체에게 있어 가장 이상적인 환경.

4. 강화학습 루트

에이전트가 환경 내에서 특정 보상을 극대화하는 방식의 기계 학습 분야. 

Deepmind의 최근 논문 'Reward is enough'에서 충분히 복잡한 환경에서 훈련할 때 AGI에 도달 가능하다고 주장.

일부는 이 가설에 회의적이며 복잡하고 상세한 환경을 조성하는 것 자체가 매우 진보된 ai를 필요로 할 수 있다고 지적.

5. 마케도니아 루트

연속, 이산, 진화 알고리즘, 베이지안 전략 등 다양한 방식의 조합으로 AGI가 탄생할 수 있다는 주장.

Pedro Domingos가 이러한 혼합적인 방식을 연구중.

6. 네트워크 루트

AI 에이전트의 상호 작용을 통해 AGI를 찾는 접근 방식. SingularityNET의 Ben Goertzel의 주장.

블록체인 기술을 사용해 AI 에이전트가 중앙 감독 없이 분산된 방식으로 문제를 해결.

Ben Goertzel은 하이퍼그래프, 신경망, 진화 시스템, 논리 엔진 등 여러 AI 전략과 알고리즘을 결합한 AGI 아키텍처인 OpenCog를 개발 중.

다른 학습 전략과 잘 호환되지 않는 역전파 알고리즘을 보완하거나 극복하는 것을 강조.

7. Penrose-Hameroff 루트

Roger Penrose와 Stuart Hameroff에 의한, 의식이 미세 소관 내의 양자적 과정에서 나온다는 Orch-OR 이론.

의식이 지능의 필수 요구사항은 아니지만 양자적 루트는 단순한 아키텍쳐 및 알고리즘을 넘어 현실의 더 깊은 측면을 포함.

따라서 발전된 형태의 지능에 도달하기 위해선 위의 양자적 조건이 필요할 수 있음.

8. 루트 없음

Kenneth Stanley, "최선의 전략은 목표가 없는 것"

지나친 장래의 목표는 역효과를 낼 수 있으며, 현재 상황에 가까운 목표를 탐색하고 이동하면 예상치 못하게 더 좋은 과정을 찾을 수 있으며 결국 더 나은 목적지로 갈 수 있음

ㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡ

오류 지적받습니다.

[솜사탕치킨(yabu1020)]

정보 찾느라 고생 많았어!

[케넨천재(kennen1)]

[익명(122.38)]

난 전세계에서 수집되는 뉴럴링크 데이터가 해답일거라 봄