Yann LeCun: Human Intelligence is not General Intelligence - AI Inside podcast



Q1. 기업들은 LLM을 기반으로 한 기술로 신기록을 달성하고 있고 수확 체감의 법칙의 존재를 알고 있음에도 불구하고 기업들은 생성형 AI와 LLM에 사활을 걸고 있습니다. 하지만 당신은 LLM에 대해 꽤 강한 의견을 가지고 있는데, 왜 인가요?


- "AI 인프라에 대한 투자는 필요합니다. 하지만 초거대 인프라는 훈련이 아니라 전 세계 수십억명의 사람들에게 AI를 제공하기 위한 인퍼런스를 위한 것입니다."

- "아직 신뢰하고 일을 맡길 정도는 아니지만 LLM은 유용합니다. AI 기업들이 제품으로 놀라운 데모를 보여주지만, 사용자들의 일상적인 사용에서 기대에 부응하지 못하는 상황은 AI 분야에서 반복적으로 일어나는 일입니다. 인간 수준에 도달하지 않아도 LLM은 여전히 유용하지만, 여전히 인간 수준 AI에 도전이 필요합니다. 그저 새로운 기술이 필요한데 그것이 무엇인지 아직 모를 뿐입니다."




Q2. 당신은 hype 대신 현재 AI의 위치에 대한 현실적인 목소리를 내고 있네요. 현재의 AI의 한계를 넘는 새로운 패러다임 연구는 어디까지 왔나요?


- "저는 LLM이 유명해지기 전인 3년 전에 AI가 앞으로 10년간 어디에 있을지 긴 논문을 쓴 적이 있고 아직 저의 의견은 바뀌지 않았습니다. 우리는 물리세계를 이해하고, 추론과 계획이 가능하며, 통제 가능하고 안전한 AI가 필요합니다. 그 논문에서 저는 모델 내부의 월드모델을 통해 행동에 대한 결과를 이해를 바탕으로 목표를 수행하는 AI를 제안했었습니다. 저는 거기서 월드모델과 시스템2의 필요를 제안했습니다."


- 지난 수십년 동안 사용된 MPC(Model Predictive Control)는 엔지니어들이 모든 상황에 대한 변수를 일일이 입력하는 방식이었습니다. 현재는 자기지도학습이 대세이며, 과거 토큰을 기반으로 다음 토큰을 예측하는 것이고 이것이 LLM의 기본 작동 방식입니다. 많은 자본이 모델이 올바른 토큰을 예측하도록 하는 일에 쓰이고 있습니다. 하지만 텍스트와 달리 변수가 무한한 이미지나 영상을 이와 같은 방법으로 예측하는 것은 컴퓨팅 성능과 관계 없이 수학적으로 불가능한 일 입니다.

저는 대신 비디오를 추상화 공간에서 예측 불가능한 변수를 제거해 추상화된 미래를 예측하는 방법을 제시합니다. 이를 JEPA라고 부르며 이와 같은 비생성형 모델이 미래에 대세가 될 것입니다.




Q3. 현재 여론은 "AGI가 곧 올 것이다", "이미 AGI는 왔다", "AGI는 절대 불가능하다"로 나뉘고 있는데, 당신의 생각은 어떤가요?


- "누구는 인간의 지능은 컴퓨팅으로 구현이 불가능하다고 하지만, 내 생각은 다릅니다. 분명히 언젠가는 인간 수준의 AI가 올 것입니다. 다만 AGI는 없을 것입니다. 인간의 지능조차 범용적이지 않으며, 인간은 범용 지능이 무엇인지 상상조차 하지 못하므로 범용 지능에 대해 논하는 것은 무의미합니다. 대신 메타에선 AMI(Advanced Machine Intelligence)를 제안하고 있는데, 프랑스어로 '친구'와 발음이 같습니다."


- "인간 수준 AI는 그렇게 멀지 않습니다. 모든 것이 잘 풀린다면 10년 내로 가능할지도 모르지만 생각보다 어려울 겁니다. AI는 항상 그랬습니다. 현재 AI는 훈련받은 대로 복잡한 방정식을 풀 수 있지만, 수학 올림피아드에서 새로운 문제에 맞닿뜨리면 매년 고전합니다. 수십년간 약속되던 레벨5 자율주행 자동차, 고양이만큼 똑똑한 가정용 로봇은 어디있죠? 세계는 복잡하며, 이를 이해하는 AI는 만들기 어려울 것입니다."




Q4. 미래 AI가 가야할 목표는 무엇인가요?


- "사람이나 동물처럼 처음 본 문제를 해결할 수 있는 AI입니다. TTS(Test Time Scale)는 인간이 생각하는 방식이 아니며, 비효율적인 추론 방법입니다. 인간이나 동물은 추상적 단계에서 계층적 사고가 가능하며, 경험을 통해 업데이트된 월드모델을 바탕으로 시스템2가 필요했던 작업도 시간이 지나면 시스템1 만으로 해결합니다."




Q5. 메타의 Llama 오픈소스화에 있는 전략은 무엇인가요?


- "오픈소스 AI는 윤리적으로 올바른 일입니다. Llama는 독자적 모델을 훈련시킬 수 없는 전 세계 수천개의 기업과 연구소에 기여하고 있으며 이는 혁신의 빠른 등장을 가능하게 합니다. 일부 열등감 콤플렉스가 있는 폐쇄적 단체의 생각과는 달리 좋은 아이디어는 독점할 수 없습니다."


- "AI가 최대한으로 유용해지기 위해선 인간 수준의 AI가 필요합니다. 이는 갑자기 등장하지 않을 것이며, 점진적인 발전을 통해 이루게 될 것입니다."




Q6. 구글 프로젝트 아스트라 같은 시스템이 스마트 안경에 탑재되면, AI가 당신이 말한대로 세상을 이해하는데 도움이 될까요?


- "일정 부분 그렇습니다. 미래엔 사람들은 항상 AI와 함께할 것이며 인간이 AI의 보스가 될 것입니다. 인간보다 똑똑한 AI를 두려워할 필요는 없습니다."

 

- "미래엔 모든 디지털 세계를 AI를 통해 경험할 것입니다. 따라 당신은 미국이나 중국의 특정 기업의 제품에 종속되기 싫을 겁니다. 세계의 모든 문화와 언어를 이해하는 다양한 AI 시스템이 필요합니다."