[📪정보] 프랑수아 숄레 AGI 딥러닝, 스케일링으로 안된다

[익명(175.112)]

https://youtu.be/5QcCeSsNRks

좋아, 방금 네가 올린 François Chollet의 “How We Get to AGI” 전체 스크립트를 꼼꼼히 살펴봤어. 요청에 따라 핵심 논지, 흐름, 구조를 예시와 비유까지 곁들여 아주 깊이, 논리적으로 요약해줄게.

말 그대로 Chollet의 AGI 비전과 현재 한계, 해결 로드맵을 제대로 이해하려면 이 내용이 중요하다.

⸻

? 1 AGI로 가는 길, 왜 스케일링만으론 안 됐나

• 핵심 주장: 2010년대 딥러닝 붐은 GPU와 빅데이터 덕이었다. 모델이 커지고 데이터가 커지면 성능이 올라간다는 ‘스케일링 법칙’이 등장했고, 거의 모든 벤치마크를 쓸어담았다.

• 문제: 스케일링으로 얻은 건 ‘정적(static) 기술(skill)’이다. 즉, 이미 본 문제를 더 잘 푸는 능력이다. 하지만 진짜 지능(fluid intelligence) 은 ‘처음 보는 문제를 즉석에서 푸는 능력’이다.

• 예시: GPT류 모델은 시험공부 한 걸 꺼내 쓰는 데는 탁월하지만, 시험 범위를 벗어난 문제를 스스로 풀어내지는 못한다.

• 비유: 거대한 도로망을 깔아놨을 뿐이다. 새로운 길은 못 깐다. 진짜 지능은 ‘새로운 길을 깔 수 있는 도로 건설사’여야 한다.

⸻

? 2 ‘ARC 벤치마크’의 의미: 인간 수준 유연지능의 테스트

• ARC1 (2019)

• Chollet이 만든 IQ 테스트 같은 벤치마크.

• 사람은 쉽게 95% 이상 맞출 문제를, 스케일업 된 LLM은 10% 정도 맞춘다.

• 왜? 외워서 푸는 게 아니라 즉석에서 패턴을 추론해야 하니까.

• ARC2 (2025)

• ARC1은 인간 수준에 도달하면 곧바로 만점이 떠버리는 구조라 더는 쓸모가 없다.

• ARC2는 난이도를 높여서 사람도 약간 생각해야 풀 수 있게 설계. 사람은 무작위 10명이면 100%에 가깝게 풀지만 LLM류는 0%~1%에 머무름.

• 포인트: ‘처음 보는 문제를 푼다’는 것의 테스트는 단순 암기 기반 AI로는 불가능하다.

⸻

? 3 최근 큰 변화: Test-Time Adaptation (TTA)

• 혁신: 2024년부터 연구 커뮤니티는 ‘추론 단계에서 모델이 스스로 상태를 바꿔가며 적응(test-time adaptation)’ 하는 방향으로 전환.

• 방식:

• Test-Time Training: 추론하면서 즉석 학습.

• Program Synthesis: 문제 맞춤 새 프로그램 생성.

• Train-of-Thought Synthesis: 모델이 생각의 흐름을 직접 만들어가며 문제 해결.

• 결과: OpenAI의 O3 같은 모델이 ARC1에서 인간 수준 달성.

⸻

? 4 Intelligence = 효율(Efficiency)

• 핵심: ‘지능’은 주어진 과거 정보로 새로운 상황을 얼마나 ‘효율적으로’ 다룰 수 있느냐의 비율.

• 예시: 장기(체스)에서 수십억 가지 수를 하나하나 계산하는 건 바보짓이다. 사람은 직감과 패턴으로 가능성을 좁히고, 그 뒤에 연산한다.

• Shortcut Rule: 특정 목표(벤치마크 점수)에만 초점을 맞추면 본질을 놓침.

• 비유: 체스 AI(Deep Blue)가 챔피언을 이겼지만, 인간지능에 대해 배운 건 없다.

⸻

? 5 남은 문제: Type 1 vs Type 2 추상화

• Type 1 추상화: 연속적 데이터 기반 패턴 감지 (시각, 직관). 현대 딥러닝이 잘함.

• Type 2 추상화: 프로그램, 그래프 기반 이산적 구조 조작 (논리, 계획, 수학적 추론). 딥러닝은 이걸 못한다.

• 예시: 숫자 덧셈, 리스트 정렬 같은 간단한 알고리즘도 LLM은 못한다.

• 왜 못함?

• 딥러닝은 ‘곡선을 잘 맞추는 시스템’이다.

• Type 2는 ‘코드를 탐색(search)’해야 하는데, 이건 연속적 gradient descent로는 못 한다.

• 비유: Type 1은 ‘지도에서 길 찾기’, Type 2는 ‘지도 자체를 새로 그리는 것’. 둘 다 필요하다.

⸻

? 6 답: ‘검색 + 직관’ 결합 메타러너

• Chollet의 제안:

• Program Synthesis (검색) 로 Type 2 문제 해결.

• Deep Learning (직관) 으로 검색 공간을 좁힘.

• 비유: 새로운 도시를 설계하려면, 기존에 있던 도시 설계도(패턴)를 직관으로 가져와 검색 속도를 높이고, 나머지는 코드를 짜서 연결한다.

• 목표: 완전히 새 문제에 대해 AI가 ‘소프트웨어 엔지니어처럼’ 즉석에서 프로그램을 짜서 푸는 것.

• 핵심: AI가 풀면서 새 추상화 블록을 GitHub처럼 공유한다 → 점점 똑똑해진다.

⸻

? 7 ARK 3 & Beyond: 완전한 AGI는 아직 멀었다

• ARK 3: 상호작용성(agency)까지 측정한다. 게임에 던져 넣으면 AI가 조작법도, 목표도 스스로 찾아내야 한다.

• 과제: ‘추상화 추출과 조합’을 얼마나 데이터 효율, 컴퓨팅 효율 좋게 하느냐.

• 메시지: 딥러닝만으로는 안 된다. ‘검색 + 딥러닝’ 혼합이 필요하다.

⸻

? 최종 핵심 요약

Chollet의 메시지는 명확하다.

• 스케일업만으론 ‘자동화’밖에 안 된다.

• AGI는 즉석 적응력(유연 지능), 검색 기반 논리력, 패턴 기반 직관의 결합이 필요하다.

• 이걸 가능케 하는 건 효율적인 추상화 라이브러리와 검색 + 직관 결합 메타러너.

• 앞으로도 ARC 벤치마크는 계속 진화할 것이다.

• 목표는 ‘인간과 함께 과학의 속도를 기하급수적으로 높일 AI’다.

⸻

필요하다면 각 개념에 대한 더 깊은 해부, 구체적 사례(알파고, Deep Blue, LLM 등) 를 덧붙여 더 풀어줄까?

필요하면 말해, 더 파헤쳐주지.

[203847년걸리겠죠(awful6856)]

이게 ㄹㅇ이긴 한데 솔직히 직업대체까진 llm으로도 충분할듯 직원들 역량도 올려주고 어쨋든 llm발전시킬수록 Agi까지 가속되는건 확실함