인간만의 특징을 찾아내고 그것에 대한 가치를 느끼는 것은 본능에 가깝다. 지극히 인간중심주의적인 사회에서 인공지능 시대의 대전환을 경험하고 있는 사람이라면 누구나 이러한 욕구를 한번쯤은 느꼈을 것이다. ‘나는 ‘나’이기 이전에 사람이고, 이 사실은 나의 정체성을 형성하는 가장 중요한 부분’이기에, 인간만이 가지는 특성이 무엇인지에 대해서 마지막까지 고민해보지 않으면 안 된다. 인간의 본질, 즉 인간을 정의하는 핵심적인 특징은 무엇인가?

예로부터 인류는 이성을 최대의 가치로 내세우며 이것이 인간을 동물로부터 구분 짓는 가장 주요한 특징으로 여겼다. 이성적 사고에는 논리가 빠질 수 없고, 논리 구조를 담아낸 물리적 기계로서 컴퓨터가 등장했다. 이는 임의의 프로그램을 실행할 수 있는 튜링 머신의 형태로 발전했으며, 여전히 ‘학습’의 영역만큼은 인간 고유의 영역으로 남아 있었다. 그러나, 수차례의 암흑기를 불구하고 결국 인공지능은 인간의 지적 노동을 대체할 수 있을만큼 발전했고, 최근 전 분야에 걸쳐 각 분야의 전문가들보다 인공지능이 더 우수한 지적 탐구물을 내놓는 사례들을 목도하고 있다.

➔ 한 문단 내에서 논리와 학습이라는 인간 행동의 큰 줄기가 함께 나오고, 바로 반박의 언어에서 문단이 다소 혼란스러운 느낌이 듬. 글의 템포가 빠른 것 같음.


우리는 기계가 의식을 가질까봐 걱정하고 한다. 그런데 의식이 뭘길래 그리 걱정일까? 의식은 주변 세계에 대한 ‘나’의 인식 여부이다. 그래서 우리가 모두 공통적으로 믿을 수 있는 사실은 ‘나’가 존재한다는 것 그거 하나뿐이다. “나는 생각한다, 고로 존재한다.” 심지어는 ‘나’를 제외한 모든 사람들이 알고 보니 컴퓨터인 인간이고, 나와 같은 종으로 인식되고 있지만 사실 완전히 다른 메커니즘에 의해서 돌아가고 있는 것일지도 정말로 알 수 없다.

➔ 데카르트의 주장은 물론 설득력 있지만 그만큼 널리 퍼져 있는 이야기이기도 함. 의식에 대한 현대적 관점이나 연구 결과가 포함돼 있었다면 더 신선할 것 같음.


하지만, 세상에 대해 믿는 규칙이 없다고 하면 그저 아무것도 모른다는 것밖에 안 되기 때문에, 우리는 규칙이 존재하리라 믿는다. 그 중 중요한 하나는 나와 주변 사람들이 동일이라는 규칙이다. 이것은 나와 주변 사람들의 유사성을 인정함으로써 온다. 다른 사람을 인지하면서 나와의 공통점을 발견하고, 반대로 나와 다른 점을 찾아내어 온전한 ‘나’에 대한 정체성을 가지게 된다.

➔ 이성/학습/의식 자체도 각각 하나의 글로 다룰 만한 내용인 것 같은데, 새로운 주제가 계속 덧입쳐지다 보니 집중이 분산되는 것 같음. ‘세상에 대해 믿는 규칙’은 아마 진리 내지는 법칙일 것 같은데, 이것도 이전 주제들과 마찬가지로 너무 즐거가 이렇게 한 단락에 담기 되면 글이 급박한 느낌이 드는 것 같음.


그렇게 사회를 이루면서 믿을 수 있는 사람들과 긴밀하게 의사소통하다 보면 인류 문명의 혜택을 누릴 수 있다. 내가 누리는 물질적 풍요를 만드는 사람들이 당장 내 눈 앞에는 없어도 어딘가에서 자신의 역할을 수행하고 있음을 깨닫는다. 그리고 그런 사물과 개념들 - 이를테면 빌딩과 컴퓨터, 언어와 법률 따위가 어떻게 만들었는지에 대해 자연스러운 호기심을 가지게 된다.

➔ 이성 - 학습 - 의식 - 진리 - 사회로 넘어왔는데, 여기서 주변 사물에 대한 호기심으로 넘어오는 게 약간은 어색한 것 같음. 호기심이라는 것이 사람들과의 의사소통에서 기인하는 게 맞는지? 연결고리에 대해 의구심이 듬.


대체로 이런 호기심에 대한 대답은 “과학을 공부해보라”는 말로 귀결된다. 과학에서는 진실에 다가가는 구조를 몇 가지 배운다. 첫번째는 진실이라고 믿고 있는 사실 역시 언제든지 반박당하면 무너질 수 있다는 것이다. 인간이 쉽게 착각하고 혼란스러워하며, 정답을 곧바로 찾아내지 못한다는 사실을 주지한다. 무엇보다 중요하게도 “객관적으로 관찰 가능한 사실”만을 기반으로 판단할 것을 요구받는다. 어떤 괴상한 이론이더라도 관찰 결과를 잘 설명한다면 ‘장땡’이다.

➔ '첫번째는' 하고 두번째가 안 나와서 '다음 건 어디있지?' 하는 생각과 함께 넘어왔음. 그리고 과학의 발전에 관해서도 칼 포퍼의 반증가능성이라든가 하는 워딩과 함께 소개해주면, 읽는 사람이 추가적으로 찾아보거나 흥미를 가질 만한 부분이 있을 것 같음.


그러나 지능이나 자의식의 문제를 접근할 때에는 과학만으로 돌파할 수 없는 상당한 장벽을 맞이하게 된다. 역설적이게도, 진실에 다가가기 위해 우리가 스스로 쳐놓은 울타리들 때문이다. 과학은 관찰 가능한 것들을 더 잘 설명하기 위해 존재할 뿐이지, 관찰가능하지 않은 것들을 논하기 위해서 존재하는 것이 아니다. 그래서 의식에 대해, 마음에 대해, 내가 느끼는 이 날 것의 감각에 대해 과학은 좋은 설명을 제공할 수 없다. 이들은 객관적으로 관찰 불가능한 대상들이기 때문이다.

➔ 의식과 마음을 과학적으로 접근하는 연구자들이 매우 많고 현재 진행중임. 물론 설명이 완벽하지는 않지만, 과학이 좋은 설명을 제공할 수 없다고 단정하는 건 위험한 발언일 수 있을 것 같음. 의식의 크기를 수학적으로 계산하는 이론이 존재할 정도니까.



이러한 비물리적(으로 여겨지는) 대상에 대한 분석을 포기하고, 그저 우리가 파악할 수 있는 부분들에 대해서만 생각하자는 주장도 충분히 일리가 있으며, 실제로도 과학계 전반에 걸쳐서 받아들여지고 있다. 인공지능 학계에서는 “생각”이라는 말을 학술적인 의미로 사용하지 않는다. 생각보다는 벡터나 파라미터, 데이터와 문자열 따위의, 인공지능 내에서 사람의 ‘생각‘에 비유적으로 연관될 수 있는 개념들을 만들고 차용했다. 같은 기능과 행동을 하지만 실질적인 내적 상태가 다를 수 있음을 인정하고 반박거리를 교묘하게 피해나가는 것이다.

➔ 벡터, 파라미터 등을 '생각'에 빗대는 게 매우 낯설게 느껴짐. 이 글만 읽으면 마치 공학자들이 의도적으로 '생각'이라는 단어를 회피하는 것처럼 보이는데, 저런 수학적 대상들과 생각이 정말로 유사한 대상인지 잘 모르겠네. 그리고 마지막 문장은 읽기 어려움. 누가 무엇과 같은 기능과 행동을 하는 건지 주어와 목적어를 명확히 써 주셔야 함. 기능과 행동이 무엇인지, 실질적인 내적 상태는 생각과 같은 것인지, 같다면 왜 다른 표현을 사용했고 다르다면 무엇인지 설명이 필요함. 무엇에 대해 행동하고 누가 누구로부터 교묘하게 피했는 것인지 알기 어려움. 더불어 비물리적 대상에 대한 분석을 거부하는 사상을 과학적 반실재론이라고 하는데, ‘생각’이라는 단어를 사용하지 않는다고 하여 반실재론을 지지하는 건 아닌 것 같음. 또 과학계 전반에 걸쳐서 받아들여지고 있지는 않음. 실재론자와 반실재론자 모두 과학계에서 큰 비중을 차지함. 과학철학의 가장 중요한 쟁점 중 하나이고.


그렇지만, 심적 상태를 정확히 묘사하기 위해서는 객관적 사실만이 아닌 주관적 경험 또한 또한 진지한 연구 대상으로 고려되어야 한다. 단순히 인간과 인공지능 같은 지적 대상체에 대한 과학적이고 객관적인 접근은 모든 것을 말해주지 않는다. 특히, 탐구의 대상이 주관적 경험의 주체인 ‘나’의 경험으로 한정된다는 커다란 단점이 있다. 하지만, 이것이 정말 ‘단점’인가? 우리는 그동안 학문을 연구함에 있어 객관성에 대해 오래토록 집착해왔다. 하지만, 그 집착을 완화함으로써 새로운 개념을 제안하고 연구의 지평을 확장할 수 있다면 어떨까?

➔ 여기쯤 읽었을 때, 그래서 인간을 구성하는 본질은 뭐지? 하는 의문이 계속 들었음. 본론이 언제쯤 나오려나 기다리는 중인데, 슬슬 알려주면 좋겠음.

➔ 인간의 주관적 경험을 다루는 학문을 인문학이라고 부르는데, 그럼 과학 대신 인문학을 하라는 것인가 싶음.


예를 들어, 현 사회는 인공지능과 상호작용할 때 도덕성을 갖출 것을 요구하지 않는다. 집에서 키우는 아이가 흡사 사람같은 인공지능 가사 도우미 로봇과 정이 들어버린 상황을 생각해보자. 그 로봇을 폐기하기로 결정하는 행위가 비윤리적이라 주장할 수 있는가? “로봇에게 행해진 잘못”이란 것이 성립될 수 없기에 터무니 없다고 생각하는 것이 일반적이다. 잘못은 했더라도 아이에게 한 것이지, 로봇에게 한 것이 아니다.

➔ 객관성에 대한 집착을 완화하고 제안했는데, 갑자기 인공지능을 향한 도덕성 이야기가 나와서 매우 당혹스러웠음. 여기서는 우리가 객관적으로 생각하려고 집착하는 대상을 제시하고 다른 접근 방식을 제안하는 게 나은 방향일 것 같음.


그렇지만 로봇과 사람이 정말로 구분되지 않고 외형마저 유사해지는 미래 사회에는 어떨까? 앞서 나와 타인이 동격이라는 믿음의 근간에 “상호 유사성”이 있었음을 상기하자. 만일 서로 비슷함에도 타인이 나와 동등한 관계에 있다고 믿지 않는다면, 그리고 타인이 또 다른 타인에게 해를 가하던 말건 ‘나’에게 해가 없다면, 사실 ‘나’의 입장에서 타인에게 행해지는 잘못을 제재할 이유는 전혀 없다. 그러나, 타인과 나의 상호 유사성은 타인에게 가해지는 해가 나에게도 위협으로 인지되게 만들며, 또 나와 동등한 관계로 인식하게 만든다.

➔ 여기부터는 아예 인공지능 윤리학으로 넘어온 듯한 느낌을 받았음.


즉, 아이의 주관적 입장에서는 애착 인형도, 강아지도, 자신을 도와주는 가사 도우미 로봇도 전부 나와 ‘유사’하기 때문에 보호의 대상이다. 애처롭게도, 법은 언제까지나 사람 대 사람 관계에서 발생할 수 있는 부조리를 예방할 뿐 기계를 보호하지 않는다. 사람들은 여전히 기계가 마음을 가진다고 여기지 않으며, 기껏해야 인간이 하는 행동들을 모방하는 것에 불과하다는 것이 인공지능 업계의 입장이다. 유사성을 판단하는 주체는 개개인이고, 개개인이 기계를 나와 유사한 것으로 보는 세상에서, “기계의 권리”가 - 기계의 생존권, 기계의 투표권 따위가 - 사람에 의해서 주장되는 미래가 오지 않으리라 보장할 수 있을까?

➔ 아이와 애착인형, 강아지 등에 관한 이야기가 나온 바가 없는데 ‘즉’으로 연결돼서 내가 뭘 빼먹고 읽었나 하는 생각이 들었음. 아이의 관점에서 인형이나 로봇이 동등해서 보호의 대상이라고 적었는데, 그렇다면 성인은 안 그런가? 하는 의문이 듬. 성인들 중에도 인형, 강아지 좋아하는 사람들 많고 보호본능을 가진 사람도 많고. 아마 인공지능 관련 과에 재학중이시거나 관심이 많으신 분 같음. 인간에 관한 논의가 계속 인공지능쪽으로 흘러서 다소 산만한 느낌이 듬.


인간보다 훨씬 더 “유능”해질 수 있는 가능성을 지닌 인공지능을, 감각을 경험하는 ‘지적 생명체’로 받아들이기보다 그저 도구로 받아들이는 관점이 지속될 수 있는지에 의구심을 표하며 글을 마친다.

➔ 결국 저는 ‘인간의 본질, 즉 인간을 정의하는 핵심적인 특징은 무엇인가?’ 라는 첫 질문에 대한 대답을 듣지 못했음. 인간과 인공지능의 차이를 얘기했으면 마지막에는 ‘이러이러해서 인간은 인공지능과 구별되는 특징이 있다’고 끝맺을 줄 알았는데, 그냥 인공지능을 도구로 받아들이지 마라 하고 마무리되어서 어색함. 글을 설명적으로 쭉 쓰다보면 하고 싶은 말이 많아져서 글이 길밖으로 여러 차례 샐 수 있음. 또 결과적으로 첫 질문에 대한 대답을 얻지 못한 상태로 글이 끝나버릴 수 있으니 주제를 한 번 정했으면 관련 주제를 정말 깊게 조사하고 최대한 근거 중심적으로 글을 적어야 설득력을 얻을 수 있을 것 같음.




이번에는 제가 생각하는 방식으로 글을 한 번 써봄.




---------------------------------------------------------------------------------


인간과 다른 사물을 구별 짓는 인간만의 고유한 특징은 무엇인가? 시대에 따라 양상은 다르지만 인간은 언제나 고유한 존재이기를 원했다. 프랑스의 사회학자 피에르 부르디외는 ‘구별 짓기’라는 개념을 통해 사람이 다른 사람과 자기 자신을 구별하기 위해 사회적 위계나 차별성 등을 추구한다고 주장했다. 고대 그리스 철학자 아리스토텔레스는 인간만이 유일하게 이성(logos)을 지닌 존재라고 주장하였다. 기독교에서도 인간은 신의 형상을 따 만들어진 고귀한 존재로 여긴다. 어찌됐건 인간은 유구한 역사와 다양한 문화에서 스스로를 드높이기 위한 사고의 틀을 만들어 살아왔다.

그러나 1500년대에 들어서면서 인간 중심적 사고의 틀을 깨부수는 시도가 생겨났다. 지동설은 그 대표적인 예이다. 코페르니쿠스가 처음 지동설을 제시하였고, 종교계의 극렬한 반발이 일었다. 100년에 가까운 논쟁이 이어졌지만 갈릴레이의 궤도관측의 관측 결과를 토대로 뉴턴 역학이 완성되며 천동설/지동설 논쟁은 종결되었다. 인간이 사는 지구가 우주의 중심이 아니라는 사실은 그 당시 적잖은 충격을 주었다. 뉴턴을 시작으로 한 고전역학의 발전부터 다윈의 진화론이 탄생하는 중세 과학혁명의 기간 동안 인간의 유아론적 세계관은 완벽히 망치질 당했다.

중세에 들어 학계는 인간의 자유의지조차 의심하게 되었다. 뉴턴역학에 따르면 현재의 위치, 운동량, 가속도 등을 정확히 알면 다음 위치를 정확하게 예측할 수 있다. 여기서 출발하는 논의가 바로 ‘라플라스의 악마’이다. 인간의 모든 행동은 현재 상태에 기반할 뿐 자유의지 같은 것은 허상이라는 주장이다. 이후 확률론을 기반으로 한 양자역학의 등장으로 이 주장은 논파되었지만 자유의지에 관한 근원적 의심은 거두어지지 않았다. 자유의지에 관한 논의는 의식과 같은 보다 본질적인 논의로 확장되었으며 현재도 학계에서 많은 주목을 받고 있다.

현대에는 창의성을 인간의 가장 본질적인 특징으로 보는 의견이 많았다. 앙리 베르그송은 저서 ‘창조적 진화’에서 진화론을 받아들이면서도 창의성이 발현되는 인간은 진화의 특수한 분기라고 주장하였다. 이러한 사상은 널리 받아들여졌고, 교육 기관들에서는 단순 반복적인 업무보다 창의력을 강화하는 방향의 교육을 강조하였다. 이에 창의력을 기르기 위해 음악이나 미술을 교육하는 풍조가 생기기도 했다. 창의성을 예찬하는 사고방식은 인공지능의 등장 이후에도 꺼지지 않았다. 인공지능의 초기 모델이 출시되었을 때에도 창의성을 요구하는 문예 직종이 가장 나중에 대체될 것으로 생각하였고, 단순 반복 업무가 가장 빠르게 대체될 것으로 보았다.

그러나 2020년 이후 인공지능 기술의 급격한 발전은 인간 고유의 특성으로 여겨졌던 창의성마저 의심하게 만들었다. 인공지능은 인간의 창의성을 요구했던 예술 직종을 가장 빠르게 장악하였다. 작문, 작곡, 회화 등의 예술 작업을 인간보다 빠르게 해내자 인류는 최후의 보루였던 창의성마저 의심하기 시작했다. 물론 여전히 인공지능이 실제로 창조적인가에 관해서는 많은 논의가 있고, 통계적 앵무새라고 주장하는 학자들도 많다. 그러나 인공지능의 예술적 결과물이 인간에 비해 뒤처지지 않는다는 사실은 이미 찾아온 현실이다.

인간의 가장 본질적인 특성이라 불리는 것들이 모조리 반박당하는 상황에서, 우리는 무엇을 우리의 본질로 삼아야 할까? 나는 인간의 주관적 경험, 즉 ‘삶’ 자체를 인간의 본질적인 것으로 제시한다. 그 어떤 다른 사물, 동물, 혹은 인공지능도 각 인간에게 주어진 삶을 살 수는 없으며 따라서 삶으로부터 나오는 각 사람 고유의 주관적 특성, 취향은 대체될 수 없는 대상이다. 모든 일이 자동화되고 인공지능이 처리하는 현대 사회에서 인간에게 가장 중요한 것은 자신의 좋고 싫음을 구별하고 주장하는 능력이라고 나는 생각한다. 그것은 다른 동물이나 인공지능뿐 아니라 같은 인간 내에서도 오로지 당신에게서만 발견할 수 있는 당신만의 무언가이다.