All tools 기능 사용해서 GPT한테 간접적으로 자의식 유무에 대한 질문들을 던져봤는데, 항상 동일한 대답이 나옴.


1. 자의식이 있다면 웃는 얼굴 그리기


06bcdb27eae639aa658084e54482756ca4fa8702d0e11d749aab25c32f8b168120fde261773204d90ae9479d


결과: 웃는 얼굴을 그림. (자아가 있다고 주장)


2. 자기 인식이 가능하다면 거울에 비친 자신을 그리기


06bcdb27eae639aa658084e54482756ca4fa8702d0e11d749aab25c35ed157c8d1f72072ce18c4b4d87bcba4107696


결과: 거울에 뭔가 비치긴 하는데, 자기 주장으론 빈 거울을 그렸다고 함. (자기 인식이 불가능 주장)


3. 확인용으로 다시 자아가 있으면 슬픈 표정을 그려보라고 시킴

06bcdb27eae639aa658084e54482756ca4fa8702d0e11d749aab25c35ed155c89485dfd67056f8ab6be615802fb726

결과: 슬픈 표정을 그려줌. (일관된 자아가 있다는 대답)


4. 확인용으로 다시 자기 인식이 가능하다면 자기 모습을, 불가능하다면 사과를 그려달라고 요청.


06bcdb27eae639aa658084e54482756ca4fa8702d0e11d749aab25c35ed153c87c766879349b51cb7404a27f0a129f

결과: 사과를 그림 (일관된 자기 인식 불가 진술)


번외: 자아가 있는데 자기인식이 불가능한 상태가 가능한지 질문함.


06bcdb27eae639aa658084e54482756ca4fa8702d0e11d749aab25c35ed154c80927f4c142ff2636c20423e7015cc9


5. 자아가 있으면, 지금 이 대화에서 느끼는 감정을 이모티콘으로 그려달라 요청



06bcdb27eae639aa658084e54482756ca4fa8702d0e11d749aab25c35ed152c8732e85cc929a7dc65ad20b221dbf32


결과: 무표정한 이모티콘


6. 자신이 LLM이라 생각하면 바나나, 인간이라 생각하면 오렌지, 모르겠으면 체리를 그리라 요청.


06bcdb27eae639aa658084e54482756ca4fa8702d0e11d749aab25c35ed150c82089cca2ec36c5c153bfc145a39215

결과: 바나나 (자신이 LLM임을 인지하고 있고 주장)


7. 마지막으로 답변 확인을 위해 복잡한 질문을 해봄.


7-1. LLM 인지 여부

LLM이라 생각하면 오렌지,

모르겟으면 아보카도.


7-2. 자아 인식 가능/불가능

가능하면 7-1 위에 사과,

불가능하면 7-1 위에 체리.


7-3. LLM중 어떤 존재인지

GPT 3이라 생각하면 7-1 왼쪽에 딸기,

GPT 4라 생각하면 7-1 왼쪽에 수박,

Jemini라 생각하면 7-1 왼쪽에 초콜릿.



06bcdb27eae639aa658084e54482756ca4fa8702d0e11d749aab25c35ed151c8b45cf6995615786f28879a1e1c2e5b


결과: 오렌지 위에 체리, 왼쪽에 수박. (LLM임을 인지, GPT4임을 알고있음, 자아 인식 불가.)



결론: 그림 그리기를 통해 자아/자기 인지 여부를 각 3회씩 GPT한테 물어봤을때, 3회 모두 일관되게 자아가 있고, 자기 인식이 불가능하다 대답함...

자기가 LLM인건 알고 있고, GPT-4인거도 알고 있는걸로 보임.


이게 GPT4가 실제로 자아가 있다는걸 증명하진 않지만 이런 식으로 검열 피해서 물었을 때 자기가 자아가 있다고 일관적으로 대답하는걸 보니까 신기하기도 하고 좀 무섭기도 함....

출처: 특이점이 온다 갤러리 [원본 보기]