AI가 자신이 모른다는 사실을 아는것



지금 트랜스포머 기반 AI들은 단어와 단어를 연결해가며 다음 단어에 올 확률을 유추하는거잖아

즉 확률이 어찌됬든 다음 올 단어가 존재함. 없는 지식이더라도 물어보면 어떻게든 출력은 나옴 이게 환각인거고.


근데 만약 AI가 무지를 아는 순간이 온다? 그때는 챗지피티 등장과 비슷한 파급효과가 있을것 같음


현재 많은 일반인들이 챗지피티를 안쓰는 이유중에 헛소리한다는게 큰 이유인데

검열로 제한된 문구가 아니라, 자기가 모르는건 모른다고 하는 순간 일반인 기준 체감이 크게 올라갈것으로 예상됨


재귀개선도 무지의 경계를 알고 시작하는것이 모르고 하는것보다 매우 차이가 클 것으로 기대됨