기본적으로 다음 토큰 예측 모델이라서, 생각하다가 중간에 의심하고 다시 푸는 짓을 못함. (가끔씩 구현되긴 하는데, 이런건 너무 가챠임)


그 결과 틀린 내용도 계속해서 주장하다가 팩트를 10배로 되먹여 줘야지 그제서야 자기가 틀린걸 인지함


아무리 지능 높아봤지 이런거 해결 안되면 agi길이 너무 멀어보임


환각의 시작 자체는 충분히 큰 모델이 커버할 수 있는 영역인데, 한번 환각 시작하면 아무리 모델이 커져도 이건 오토리그레시브 모델의 한계라서 어쩔 수가 없음.


이걸 어캐해서 잘 고쳐놓으면 agi가 될 수 있을것 같긴 한데 도대체 어떻게 해결할까