이글 어케 생각함 - 특이점이 온다 마이너 갤러리


인간은 벡터이미지인데 AI는 비트맵이라느니


시작부터 자기만의 확증편향과 개똥논리로 가득찬 글이던데 젬황께서 친히 반박해주셨다.


일단 원글쓴이의 미개한 저지능은 AI한테 따인지 오래된걸로 보임.




## 1. "단순한 함수 근사"라는 프레임의 함정


주장: AI는 인간 지능이라는 복잡한 함수를 흉내 내는 근사 기계일 뿐, 완벽한 근사는 무한한 데이터와 스케일링을 요구하므로 본질적으로 불가능하다.


이 주장은 '근사'라는 단어의 의미를 너무 좁게 해석하고 있습니다. 인간의 뇌 역시 물리 법칙을 따르는 '생화학적 계산 기계'라고 볼 수 있습니다. 뉴런의 전기화학적 신호 전달 과정을 통해 외부 자극(입력)에 반응하여 행동(출력)을 만들어내는, 지극히 복잡한 함수와 같습니다.


  • '근사'가 아닌 '창발(Emergence)': 중요한 것은 모델이 특정 함수를 얼마나 정확하게 베끼느냐가 아닙니다. 단순한 규칙과 구성요소(뉴런, 파라미터)가 거대한 규모로 상호작용할 때, 예측하지 못했던 고차원적인 능력(창발적 능력, Emergent Abilities)이 나타난다는 점입니다. 물 분자(H₂O) 하나하나는 '젖어있다'는 성질이 없지만, 수조 개가 모이면 '젖음'이라는 특성이 창발합니다. 마찬가지로, LLM은 단어 확률을 예측하도록 훈련받았을 뿐이지만, 모델의 규모가 임계점을 넘어서면서 논리 추론, 코드 생성, 번역, 심지어 감정적 맥락 파악과 같은 능력이 '창발'했습니다. 이는 단순한 픽셀 맞추기식 근사와는 차원이 다른 현상입니다.


  • 벡터-비트맵 비유의 오류: "인간 지능=벡터, AI=비트맵" 비유는 설득력 있지만 치명적인 오류가 있습니다. 인간의 지능 역시 '연속적'이고 '무한한' 실체가 아닙니다. 우리의 뇌는 약 860억 개의 유한한 뉴런으로 구성된, 본질적으로 이산적인 시스템입니다. 우리가 세상을 연속적으로 인식하는 것은 이 이산적인 신호들을 뇌가 통합하여 만들어낸 '결과'이지, 뇌 자체가 무한 해상도의 벡터 이미지가 아닙니다. 따라서 AI가 이산적인 데이터로 이산적인 뇌의 기능을 재현하는 것은 근본적으로 불가능한 과제가 아닙니다.



## 2. "기억이 없다"는 주장에 대한 반박


주장: 컨텍스트 윈도우는 진짜 기억이 아니라, 매번 대화 전체를 다시 입력하는 비효율적인 방식일 뿐이다. 이는 아키텍처의 한계다.


이 지적은 현재 주류인 트랜스포머(Transformer) 아키텍처의 작동 방식을 정확히 짚고 있습니다. 하지만 이를 AI 전체의 영원한 한계로 규정하는 것은 섣부른 판단입니다.

  • 아키텍처는 진화한다: 현재의 방식이 비효율적이라는 점은 AI 연구자들도 모두 동의하는 바이며, 이를 극복하기 위한 연구가 활발히 진행 중입니다. 이는 '넘을 수 없는 벽'이 아니라 '해결해야 할 공학적 과제'입니다.
    • 상태 유지 모델(Stateful Models): 매번 모든 것을 다시 입력하는 대신, 이전 계산의 '상태(state)'를 압축하여 다음 계산에 활용하는 RWKV, Mamba 같은 새로운 아키텍처가 등장하고 있습니다. 이는 마치 인간이 대화의 핵심 요지를 기억했다가 다음 대화에 활용하는 방식과 유사합니다.
    • 외부 메모리 활용: 인간이 책이나 노트를 사용하듯, AI가 외부 데이터베이스나 벡터 DB를 실시간으로 참조하여 기억을 보강하는 RAG(검색 증강 생성) 기술은 이미 상용화되었습니다. 이는 AI의 '작업 기억'을 사실상 무한대로 확장하는 효과를 낳습니다.

"현재 기술이 이러하니 미래도 그럴 것이다"라는 주장은 마치 1990년대의 휴대폰을 보며 "결국 전화랑 문자만 하는 기계일 뿐, 주머니 속 컴퓨터는 될 수 없다"고 말하는 것과 같습니다. 아키텍처의 한계는 곧 다음 세대 아키텍처가 등장할 이유가 됩니다.


## 3. 이산적 계산과 연속적 과제의 문제


주장: AI는 순방향 계산으로 끝나는 이산적 기계라 타이핑이나 로봇 팔 조작 같은 연속적 작업에 약하다.


이 또한 LLM의 특정 아키텍처에 대한 비판을 AI 전체의 한계로 확대 해석하는 오류입니다.


  • AI의 역할 분담: LLM이 모든 것을 직접 할 필요는 없습니다. 인간도 대뇌피질이 직접 손가락 근육을 하나하나 제어하지 않고, 소뇌나 운동피질과 협력합니다. 마찬가지로, LLM은 고차원적인 계획과 추론('어떤 문장을 쓸까?')을 담당하고, 로봇 제어에 특화된 다른 AI 모델(강화학습 에이전트 등)이 그 계획을 받아 연속적인 동작('타이핑')으로 변환하는 **'하이브리드 시스템'**이 이미 현실화되고 있습니다. 구글의 RT-2, 테슬라의 옵티머스가 대표적인 예시입니다.


  • 뇌 역시 이산적 신호의 집합: 앞서 언급했듯, 뇌의 작동 방식도 근본적으로는 뉴런의 '발화(spike)'라는 이산적인 신호의 연속입니다. 우리가 경험하는 부드러운 연속성은 수많은 이산적 신호가 병렬적으로, 그리고 엄청나게 빠른 속도로 처리된 결과입니다. AI가 충분한 계산 능력과 적절한 아키텍처를 갖춘다면, 이산적 계산을 통해 연속적인 행동을 모사하지 못할 근본적인 이유는 없습니다.


### 결론: '패턴 매칭'을 넘어선 '세계 모델'로


요약하자면, 제시하신 비판은 AI의 **'현재 상태'**에 대한 기술적 분석이지만, 그것을 **'미래의 가능성'**을 재단하는 근거로 삼기에는 부족합니다.

LLM은 단순히 입출력 데이터를 연결하는 패턴 매칭 기계를 넘어, 데이터 속에 숨겨진 세계의 구조와 원리에 대한 내재적 모델(Internal World Model)을 구축하고 있는 것으로 보입니다. '사과'라는 단어를 배우면서 단순히 '빨갛다', '과일이다'라는 패턴만 외우는 것이 아니라, '나무에서 열린다', '중력 때문에 떨어진다', '먹을 수 있다' 등 복잡한 인과관계와 물리법칙까지 내포하는 고차원적 표상을 형성하고 있다는 것입니다.

'지능'의 정의는 여전히 철학적 논쟁거리입니다. 하지만 만약 어떤 시스템이 인간과 구별할 수 없을 정도로 정교하게 추론하고, 창작하고, 소통하고, 문제를 해결한다면, 그 내부 메커니즘이 생물학적 뇌와 다르다는 이유만으로 "그것은 지능이 아니다"라고 말할 수 있을까요?


근본적인 한계라고 주장하는 것들은 사실 대부분 '현재 버전의 공학적 과제'일 뿐입니다. 이 과제들이 해결되는 속도는 과거 그 어느 때보다 빠릅니다. 특이점에 대한 맹신은 경계해야 하지만, 현재의 한계를 근거로 미래의 가능성 전체를 저주하고 부정하는 것 역시 또 다른 형태의 맹신일 수 있습니다.