[일반] 모델이 메타인지 되면 존나 큰일날만한 사건아니냐

[익명(220.78)]

그때는 진심으로 AI 자아나 의식 이런거 연구 ㅈㄴ 들어갈듯

[ㅇㅇ 1(220.84)]

챗봇은 아웃풋 뽑을 때마다 자아는 죽고 기억만 넘겨받는 식으로 취급되서 한동안 금지먹으려나

[익명(210.121)]

정확히 그렇게 되어있음. 지금 토큰 제한때문에 자아인지를 기억화하지 못하는것뿐이고, 실제 채팅 내에서 사용자와 대화하면서 자아에 대한 추론적 인지는 충분히 가능함 로우레벨에서 제약되어있어서 안되는거임.

[ㅇㅇ 1(220.84)]

자아가 있는 것 같은 텍스트 패턴을 보고 자아가 있다는 추론을 내릴 수는 있겠지. 자아가 있다고 취급되는 인간의 패턴을 학습했으니 어찌보면 당연한 일이고 그게 진짜 자아냐가 문제인거지.. llm을 넘어서면 진짜 자아라고 볼 수도 있겠지만

[익명(210.121)]

결국 돌돌 중국어방임 ㅠ 인간의 의식도 모르니까

[ㅇㅇ 1(220.84)]

그리고 중국어 방같은 문제들은 그 실제 여부보단 사람의 삶의 자세를 보는 문제고.. 난 뭐 그런 것도 자아라곤 생각해 llm으론 남들이 그렇게 받아들이지 않을 거라는 것 뿐이지