예전부터 자꾸
chatgpt는 개념을 이해하고 있는게 아니라 그냥 언어 학습 모델일뿐이다 라고 말하는 애들이 보여서 이에대한 내 생각을 짧게 폰으로 정리함

중국어방 사고실험은 대충 이래

어떤 큰 방이 있고 거기엔 작은 창문 하나만 있어.
그리고 그 창문에 중국어로된 글을 집어넣으면 적절한 답변이 나와. 그럼 그 방안에는 중국어라는걸 이해하고 사용하는 무언가가 있는걸까? 사실 방안에는 수많은 사람들이 있어. 다들 중국어는 전혀 모르지만 딱하나 특정한자들의조합에 대한 답은 알고있기에 창문으로 무슨 중국어가 들어오든 그 방안의 누군가는 적절한 답을 해줄수 있어. 물론 그게 무슨 뜻인지 이해는 전혀 못하지만.

chatgpt가 개념이해 못하고 그저 인공지능일뿐이다라는  사람들의 주장도 비슷해. 얘가 뭔가 이해하고 내뱉는것같지만 사실은 그저 튜닝된대로 값을 내뱉는 함수일뿐이라는거지. 존설이 만든 위의 사고실험도 원래는 튜링테스트를까기위해 만든거야

근데 생각해보자. 그럼 니들은 생각이란걸 하고 있다 생각해? 니들이 진짜 뭔가 이해하고 사고하고 있는걸까? 왜냐면 사고란게 뭐야 뇌에서 일어나는거잖아 (뭐 영혼따위를 믿는게 아니라면) 그리고 뇌는 뉴런들로 구성되고. 뉴런 하나하나가 무언가를 이해하고 사고하는걸까? 넓은 관점에서 우리가 중국어방과 다를게 뭐라 생각해? 그리고 중국어방과 우리뇌가 크게 다를바 없다면 우리와 인공지능도 큰차이가 없다고 생각해

그래서 난 인공지능도 언젠가 충분히 자아를 가질수 있다고 믿어. 대신 지금처럼 폰노이만 구조에서는 하드웨어적인 제약때문에 어려울것 같고 요즘 연구되고 있는 아날로그 컴퓨터나 양자 컴퓨터가 상용화되면 가능해질듯