음, 나는 사실 AI와 전혀 상관없는 일을 하고 있는 사람이지만

잠깐 1-2년 동안 프로젝트 하나에 걸쳐져 있어서 어깨너머로 좀 보기만 했던지라

더이상의 자세한 내용이나 논리는 댈 수 없음.

(걸러서 들으라는 소리임 ㅎㅎㅎ)


"confidence"라는 개념이 있더라고.

얘를 들어서 내가 소나무, 은행나무, 단풍나무, 벛나무 사진을 각 만장씩 제공하고 학습을 시켰다 쳐.

그런 담에 전나무 사진을 보여주고 이게 뭐게, 하면 아마 높은 확률로 소나무라고 할 거야.

근데 만약에 내가 강아지 사진을 보여주고 이게 뭐게, 하면

AI는 그건 식물이 아닙니다, 라거나, 그건 잘 모르겠어요, 하지 않고 배운 4가지 중에 하나를 답이라고 얘기하더라고.


AI는 자기가 배운(학습한) 선택지 중에 하나를 선택하는(어떨 땐 답 같아 보이는 걸 찍는) 거고

그걸 선택할 때 아, 이건 100%지, 하는 게 있는가 하면, 

어떨 때는 1,2,3번 선택지는 1% 같은데 4번 선택지가 2% 같으면 4번이라고 대답하는 거더라고.

그걸 confidency라고 하든가 overconfidence라고 하든가 뭔 그런 개념이 있던데 자세한 건 몰루.


그래서 프로젝트가 점점 커지기만 하다가(이거 저거 추가해서 가르치기만 하다가) 

결국 연구비가 모자라서 엎어졌다는 슬픈 과거얘기였다.


암튼, AI든 챗GPT든 너무 맹신하지는 말자고.

자기가 아는 선에서 최대한을 뽑아주는 거지 그게 매번 진실일 순 없어.

결국 걔들이 뽑아준 정보를 채택하느냐마냐는 사용자의 선택이고 책임이더라고.

모두들 더블체크하고 레퍼런스 잘 찾아보고, 항상 내 상황과 경우에 맞는 좋은 정보들 잘 찾아가길 바라.