https://www.popsci.co.kr/news/articleView.html?idxno=22625

AGI 비관론자 얀 르쿤 “생성형 AI 기술, 벽에 부딪혔다”얀 르쿤(Yann Le Cun) 메타 수석 인공지능 연구원은 현재의 생성형 AI가 세계 지식을 다수 습득했음에도 스스로 과학적 발견을 하지 못하는 근본적 한계에 봉착했다고 지적했다.르쿤 연구원은 20일(현지 시간) '빅 테크놀로지 팟캐스트(Big Technology Podcast)'와 인터뷰에서www.popsci.co.kr



르쿤은 "4살 아이는 깨어있는 동안 약 1만 6000시간을 보내며, 시각 신경을 통해 초당 약 2메가바이트의 데이터를 처리한다"라며 "이를 계산하면 약 10의 14승 바이트로, 현재 가장 큰 언어 모델이 학습한 데이터양과 비슷하다"고 말했다. 이어 "그러나 아이는(AI와 대조적으로) 불과 9개월 만에 물리 세계의 기본 원리를 모두 이해한다"고 강조했다. 

그는 "세계 최고의 데이터센터에 아인슈타인 같은 AI를 만들려면 단순히 모든 답을 아는 시스템이 아니라, 다른 사람들이 생각하지 못했거나 감히 묻지 못한 질문을 할 수 있는 시스템이 필요하다"라며 "이는 현재 형태의 LLM으로는 불가능하다"고 지적했다. 

현재 AI 개발이 직면한 또 다른 문제는 LLM에 더 많은 데이터를 학습시키는 방식이 한계에 도달했다는 점이다. 르쿤은 "이미 인터넷의 모든 텍스트 데이터를 사용했으며, 더 많은 데이터를 생성하는 비용이 기하급수적으로 증가하는 반면 수익은 점점 줄어들고 있다"고 설명했다.


대안으로 르쿤은 현재 메타에서 개발 중인 '제파(Jepa, Joint Embedding Predictive Architecture)'라는 새로운 접근 방식을 제시했다. 이 방식은 생성형 아키텍처가 아닌 결합 임베딩 예측 아키텍처로, 물리적 세계를 더 잘 이해할 수 있다고 주장했다.


그는 "인간 수준의 AI에 도달하는 것은 하루아침에 일어나는 사건이 아니라 전 세계 연구 커뮤니티의 지속적인 노력을 통해 점진적으로 발전할 것"이라고 강조했다.

이어 오픈소스 방식이 AI 개발에  도움이 되고 있다고 내다봤다. 르쿤은 또한 오픈소스 AI 개발이 폐쇄적인 접근 방식보다 더 빠르게 진전되고 있다고 언급했다. 그는 "좋은 아이디어에 대한 독점권은 없습니다. 세계 각지의 다양한 아이디어와 배경, 창의적 사용을 활용해야 과학과 기술이 빠르게 발전할 수 있다"고 분석했다. 





제 생각:


얀 르쿤 교수님은 1998년 LeNet-5를 통해 현 컴퓨터 비전 딥러닝 알고리즘의 모태인 CNN을 처음으로 제시한 그야말로 현재 인공지능 학계의 단군할아버지 쯤 되시는 분입니다.


이후에도 페이스북에서 수석 인공지능 연구원으로서 계속해서 연구중이시고 기사에 나오듯이 현재는 JEPA 라는 새로운 학습방식 아키텍처를 연구중이십니다.


AGI (일반 인공지능)의 등장 시기에 대해선 인공지능 업계에서 정상급 위치에 계신 분들 사이에서도 의견이 분분한데요, 제 나름대로 해석해보자면 얀 르쿤은


1. 이미 인터넷 상에서 배울 수 있는 데이터는 거의 다 LLM 학습에 사용되었음. 더이상 모델의 크기를 더 키우거나 해서 효율적인 성능 향상을 가지기 힘듬


2. LLM은 엄청난 양의 세계 지식을 습득하고 처리하는 능력을 가졌지만 가장 그럴듯한 답변을 내놓는 구조는 인간이 생각하는 방식과 근본적인 차이가 있음


3. AGI 용어 자체가 현재로선 의미가 없고 현재의 학습 방식으로는 불가능하며 앞으로 더 많은 혁신이 있어야 할 것 임


이렇게 3가지 정도로 요약해서 AGI 등장에 대한 성급한 기대에 반하는 의견을 내시는 것 같습니다.



얼마전 발표된 GPT 4.5가 약 5~7 T의 파라미터를 가진 것으로 추정이 되지만 원하는 만큼의 성능 향상이 보이지 않았고, 추론 모델 보다 낮은 벤치점수를 보였다는 발표를 보아 스케일링 법칙의 역설을 말하는 1번의 내용은 현재로는 거의 일반화된 사실로 보입니다.


2번의 내용은 어떻게 보면 아직 확실히 밝혀지지 않은 부분인데, LLM이 가장 그럴듯한 답변을 내놓는 것으로 학습되는 것이지만 어떻게 그럴듯한 답변을 내놓는지는 그 중간 과정을 설명하는게 아직까지 확실히 설명하기 어려운 부분입니다. 학습 또는 추론 때 모델의 파라미터가 어떤 부분이 활성화되고 비활성화되는지 간접적으로 유추하는 정도죠.

무엇보다 우리는 사람이 어떻게 생각하는지도 정확히 모르는 부분이기 때문에 이 부분이 정확히 규명되기 전에는 AGI라는게 과연 제대로 정의할 수 있는지조차 아직 불분명합니다 ㅋㅋ..


3번에 대해서 르쿤 교수님이 연구하시는 JEPA에 대해 논문을 짤막하게 읽어보았습니다.





사진은 논문 (Self-Supervised Learning from Images with a Joint-Embedding Predictive Architecture) 에서 가져온건데 가장 오른쪽에 (c)가 르쿤 교수님이 제시하는 학습 방식입니다.


요약하면


입력에 대한 정답을 학습하는 것이 아닌 정답의 중간 표현을 예측하는 것으로 학습하는 방식입니다.


먼저 LLM은 현재 까지 입력 토큰(대충 단어)에 대해 다음 토큰을 예측하는 방식으로 학습을 합니다


예시) 김유식은 -> 김유식은 디시인사이드의 -> 김유식은 디시인사이드의 대장이다 식으로 말이죠


근데 모델은 "대장이다"를 출력하기 전에 중간 표현이란걸 생성해서 예측을 하는데 이것도 간단히 말하면 "대장이다" 라는 단어의 의미를 압축해 놓은 숫자들 (벡터)라고 보면 되요.


르쿤 교수님이 제시하는 방식은 이 중간 표현을 학습하는 방식 같습니다. 기사에선


르쿤은 "제파는 입력을 재구성하려고 하지 않고, 입력의 추상적 표현을 생성하려고 한다"라며 "이를 통해 정확히 예측할 수 없는 모든 세부 사항을 무시할 수 있다"고 설명했다. 예를 들어, 펜을 세워두고 놓으면 어느 방향으로 떨어질지 정확히 예측할 수 없어도 관념적으로 펜이 떨어질 것이라고 판단할 수 있는 것이다. 


라고 말하는데 쉽게 설명하면 


답을 맞추는 것 보다 답이 나오기 전 과정을 학습하는 게 더 의미가 있다 라는 말씀인 것 같습니다.


비유하자면 기존의 학습 방식이 문제와 답을 달달 외운 학생들이 비슷한 문제는 잘 풀면서도 교사가 조금 꼬아서 낸 응용 문제에서 줄줄이 틀리는 것과 같다면


르쿤 교수님이 제시하는 방식은 답보다 문제풀이의 중간과정을 집중해서 잘 배운 학생이라고 볼 수 있겠습니다



르쿤 교수님은 2020년에 이미지 모델에 대해 이 학습방식을 적용한 I-JEPA를 공개하셨고 작년에는 비디오로 확장하여 V-JEPA를 선보이셨습니다.


본인 생각으로는 3~5년 내에 이 방식이 실용적인 수준으로 적용될 것 이라고 하셨는데 저는 요즘 AI의 연구원들의 연구 속도를 보면 그것보단 빠르게 적용되지 않을까 생각이 드네요.





4줄 요약


1. 기존에 모델의 크기를 키워서 AGI 달성하려는 계획은 실패함. 가용한 데이터도 한계에 다다름


2. 지금 LLM이 답을 추론하는 방식은 사람과 다름


3. 사람의 지능도 정의를 못하는데 AGI라는 단어는 현재로선 의미가 없음


4. 그러나 AI 연구는 매우 중요하며 수많은 연구자들의 노력으로 점진적으로 발전해갈것임 (중요)