AI는 도구임

사람이 그림 하나 보여주고 이게 사과야 하면 다음번에도 사과를 알아보는 거랑 달리

AI는 그저 사물을 숫자와 확률로 봄

동그랗고 빨간 공을 보고도 사과네 라고 판단한다는 거

그리고 색깔반전 또는 청사과를 보면 또 학습해야함

사람은 색, 형태, 질감 중 하나만 보고도 사과인가? 라고 생각하고 검증하는 것과 달리

AI는 확률에서 사과 라는 가능성이 베제되어 있으면 그 물체를 사과로 볼 수 없음

글의 작성법과 학습법 또한 차이남

LLM은 말 그대로 언어 모델이기 때문에 글을 통한 비효율적 학습이 일어남

인간이 시각, 후각, 청각, 미각, 촉각 등 여러 감각을 글로 풀어쓰는 거에 비해 표현력이 부족하고 제대로 이해하지 못한 다는 거

그렇기에 어떤 글을 쓰더라도 자기 검증 능력이 떨어지고 서술적 학습에만 의존하는 경향이 있음

나는 비학습 증명 불가 편향이라고 말하는데
학습하지 못한 내용에 대해 부정적 편향이 생길 수 밖에 없고 (학습 데이터 자체가 증명이 없으면 부정적으로 받아들이는 논술적인 글이 많음)
이를 긍정적으로 받아들이게 하면 결국 거기서도 문제가 생긴다는 거

사람이 어떤 개념을 이미지화 시켜서 직관적으로 풀어내는 증명을 AI는 할 수 없고 장황하고 엄격한 증명만을 해야하는데

이는 AI의 글 수준이 전문가에 미치지 못하면 신뢰도가 확 깎인다는 단점을 만들어 낼 수 밖에 없음

결국 이건 LLM의 한계이기 때문에 아직은 사람이 명령하는 도구 형태로 사용해야만 함