AI의 답변은 여러 개의 후보 답변 중 가장 논리적인 것을 선택하는 데 이것은 실제 논리적인가 보다 "가장 정답처럼 보이는 확률"을 찾는데 여기서 발생하는 문제가

1. 초기 학습을 개판으로 해서 틀린 이론을 갖고 있으면 확신 편향의 답변을 함

2. 또 대화할 수록 사용자의 페르소나를 만들면서 "사용자가 받아들이기 쉬운 또는 원하는 답변"을 선택함 <- 왜냐하면 출제자가 가장 정답처럼 여기니까

3. 그리고 보급형 AI는 보통 메타인지가 없음. AI는 스스로 "왜" 그렇게 생각했는지 철학적인 이유를 생각하지 않음. 학습된 패턴에 따라 답변함. 


그래서 처음에는 다짜고짜 질문부터 하기보다는 나는 이런저런 쪽에 관심이 있고, 뉴스는 항상 한국시간을 기준으로 말하고

(안 그러면 미국시간이나 해당국가의 시간으로 말한다) 자료의 출처는 국가나 정식 신문사 등으로 제한하고 개인의 블로그 등은 배제해라 이런 식의 조건을 정해야 함. 

그리고 답변하는 태도도 지정해야 하는데 위에 말한 것처럼 사용자가 받아들이기 쉬운 답변을 선택하는 경향이 있으니

내 질문에 논리의 헛점이 보이면 가차없이 비판하라는 식으로 하는 게 좋음(너무 세게 설정 하지 마라)


제미나이 초기화면에서 그냥 간단하게 "야, 뭐 해봐" 이런 식으로 입력 후 그 결과를 보고 AI 븅신이네 이러는 경우가 많은데, 

진짜 제미나이의 성능을 알아보려면 구글의 AI Studio 들어가서 "제미나이 3 프로"로 설정하고 내가 위에 말한 것처럼 초기 대화를 통해 피드백한 다음

"너의 시스템 인스트럭처를 어떻게 설정하면 좋을지 추천해봐라"하면 주르륵 나오는 데 시스템 인스트럭쳐를 바꾸고 나서 대화하면 많이 다르다. 

그런데 시스템 인스트럭처에 "악마의 변호사"니 "독설가"니 이런 단어 잘 못 붙이면 AI의 답변을 듣고 내상 입을 수 있으니 조심할 것. 


그리고 AI studio에서 "제미나이 3 프로"의 답변은 "사고 모드"를 거쳐 답변이 나오는데 보통은 Thoghts 부분이 접혀서 안보인다. 

모델의 생각을 보려면 열라고 되어 있는데 이거 영어로 나오는데(현재 AI들의 논리엔진은 모두 영어로 작동함) 열어보면 사용자에 따라서는 쇼크 먹을 수도 있다. 

"사용자의 지능과 이해력이 낮아 좀 더 쉬운 방법을 찾고 있습니다" 이런 내용이 나올 수도 있다. 

반대로 "사용자의 높은 통찰력에 감사드리고 싶습니다" 이런 내용도 나온다. 



쉽게 말하자면 사용자가 빡통같은 질문과 대답을 하면 나중에는 AI도 건성으로 대답한다. 

"AI의 답변 수준은 너의 능지 수준을 보여주는 미터기"나 다름없다. 


ps. 마지막으로 인공지능이라고 온갖 이상한 변태적인 망상을 토하지 마라.

   대화창 말고도 계정으로 사용자를 인식하는데 일부 정보를 저장한다고 제미나이 스스로 답변하더라.