[📪정보] 멀티모달 생성형 AI로 AGI를 실현하는 것은 불가능하다

[익명(119.196)]

https://aiheroes.ai/community/103




멀티모달 AI는 스스로 생각하는 일반인공지능(AGI)으로 진화할 수 있을까?


멀티모달 생성형 AI의 매개변수가 늘어나고 계속해서 발전하는 일은 일반인공지능(AGI)에 대한 논의와도 연관이 있습니다. 일반인공지능은 사람의 개입 없이도 시각, 촉각, 청각 등 스스로 다방면의 데이터를 받아들이고, 특정한 목적에 한정되지 않고 다양한 일을 해낼 수 있습니다. 약인공지능(weak AI)으로 불리는 현재의 인공지능은 방대한 양의 학습데이터에 의한 사전학습과 인간의 개입이 꼭 필요한데요. 지금의 AI가 스스로 생각하는 기계인 AGI로 진화하기 위한 해답은 과연 멀티모달 생성형 AI에 있을까요?


실제로 인공지능 학계에는 GPT나 LLaMA와 같은 초거대언어모델(LLM)의 매개변수(parameter)를 점점 더 늘려나가면 인간과 비슷한 수준의 추론 능력뿐 아니라 인지능력까지 획득하게 되어 일반인공지능(AGI)을 개발할 수 있다고 주장하는 사람들이 있습니다. 이는 과연 사실일까요? 결론부터 말하자면 이는 우리 뇌의 작동 방식에 대한 이해가 부족하기 때문에 생겨난 오해라고 생각합니다. 많은 인공지능 연구자는 뇌과학에 관심이 없고, 뇌과학자들은 인공지능의 매우 한정적인 부분만을 알려고 합니다.


그러나 이 두 가지는 AGI 개발을 위한 두 개의 바퀴와 같아서 떼려야 뗄 수가 없습니다. 현재의 기술로 AGI를 실현하는 것은 불가능합니다. 인공일반지능 개발이 가능할지 여부를 살펴보기 위해서는 우선 우리 뇌의 구조에 대해서 조금 더 자세하게 살펴볼 필요가 있습니다. 그리고 컴퓨터가 과연 진짜로 데이터를 '이해'하고 있는지 엄밀히 살펴볼 필요가 있죠.




인간의 뇌와 인공지능의 뇌 - 오래된 뇌의 존재 여부


흔히 SF영화에 등장하는 인공지능은 스스로 판단하여 인간을 공격하거나 감정을 가지고 자신의 존재를 궁금해하며 고뇌하는 존재로 그려집니다. 이러한 행동은 모두 인공지능이 우리 뇌 속에 존재하는 '오래된 뇌'를 가지고 있다는 가정하에 생겨나죠. 오래된 뇌는 우리가 감정을 느끼고 공격적인 행동을 하거나 동정심을 느끼는 등 지극히 인간적인 일을 하도록 도와줍니다. 1952년 뇌 과학자 폴 맥린이 주장한 삼위일체 뇌 이론에 따르면, 우리 뇌는 진화의 순서에 따라 세 개의 부분으로 나뉘어 진화했다고 합니다.


가장 먼저 진화한 것은 흔히 '파충류의 뇌'로 알려진 R복합체인데, 이는 인간의 생존을 위한 부분을 담당합니다. 생존의 위협으로부터 스스로를 지키기 위한 인간의 공격성이나 무리를 이루고 누군가를 따돌리고자 하는 행위 등 지극히 원초적이고 인간다운 부분을 담당하죠. 그 밖에도 정서적 교감과 모성애 등 감정을 담당하는 변연계라는 부분이 있는데, '포유류의 뇌'라고도 불립니다. '파충류의 뇌'와 '포유류의 뇌' 모두 이름에서 알 수 있듯이 인간보다 지능이 떨어지는 여러 동물에게서도 발달한 뇌의 부분입니다. 이 두 가지를 가장 최근에 발달한 이성과 지능적인 행위를 담당하는 '새로운 뇌'인 신피질과 구분하기 위해 '오래된 뇌'라고 표현했습니다.


문제는 우리 뇌의 '새로운 부분'인 신피질이 '오래된 뇌'의 지배를 받는다는 사실입니다. 한 가지 예로 우리의 신피질은 밤늦게 야식을 먹는 것이 건강에 해롭다는 사실을 알고 있습니다. 그러나 우리가 꽤 잦은 빈도로 비이성적인 판단을 내리고 밤늦게 야식을 시켜 먹는 이유는 바로 우리 뇌가 여전히 생존을 위해 에너지를 비축해 두어야 한다는 '오래된 뇌'의 지배를 받고 있기 때문입니다. 이처럼 인간의 뇌는 오래된 뇌와 새로운 뇌의 싸움이 매 순간 반복되는 전쟁터입니다. 인간이 항상 이성적인 판단을 내리지 않는다는 사실은 그 누구보다 우리 스스로가 잘 알고 있습니다.


하지만 인공지능에는 이러한 '오래된 뇌' 자체가 존재하지 않습니다. 인간 뇌의 뉴런과 시냅스에서 착안한 인공신경망(artificial neural network, ANN)은 모두 신피질이라는 이성적 판단과 지능을 담당하는 영역과 관련 있는 부분에서 착안하였습니다. 따라서 무언가를 끊임없이 배우고, 생존 욕구와 의도를 가진 사람 같은 인공지능을 만들어 내기 위해서는 단순히 지능뿐 아니라 스스로 삶의 목적을 가질 수 있도록 구현해 내야 하는 것입니다. 그러나 많은 사람이 알고 있듯이 현재로서 이런 기계는 존재하지 않습니다. 즉 AGI를 구현하기 위해서는 의식과 자아를 가진 존재를 구현해 내야 합니다.

[익명(gkrrms1)]

이건 인공지능이 아니라 인공의식 아님?

[익명(121.170)]

아마 얀르쿤식 AGI 말하는듯