다만 이번 실험에서 GPT-4는 스테이지를 클리어하지는 못했다. 이에 대해 연구진은 이번에 설계한 모델은 적으로 등장하는 좀비가 시야 밖으로 사라질 경우 적이 있다는 사실을 종종 잊어버렸다. 인간이라면 적을 추격해 마무리했겠으나, GPT-4는 적의 존재를 잊었기에 이후에 공격을 당하거나 구석에 몰리는 등으로 사망을 맞이했다고 설명했다.
물체가 시야 밖으로 사라져도 계속 존재할 수 있다는 것을 이해 못하는거 보면 유치원생보다 딸리는 듯
물체가 시야 밖으로 사라져도 계속 존재할 수 있다는 것을 이해 못하는거 보면 유치원생보다 딸리는 듯
토큰 기억력 문제 아님?
근데 본문하고 확률적앵무새랑 무슨 상관임?
토큰 문제면 시야 안에 있어도 잊어버렸겠지
유동적 사고를 하는 게 아니라 그냥 학습된 데이터 의거해서 확률 높은 대로만 말하니까 계속 같은 헛소리를 한다는 거지 - dc App
토큰 특성상 시공간 관련 지능 부족이 가장 큰 문제인듯. Diffusion 결합한 Sora는 그게 그나마 해결되니 일관성 유지를 보여주는데 그걸 쉽게 쓸 수 있는 것도 아니니
당연한거지 학습 데이터가 달라지지 않는이상
사람도 같은거 존나 물으면 앵무새됨