[일반] gpt랑 이야기해본 결과 재귀개선은 일부러 막아둔거래

[익명(211.55)]

GPT가 흥미롭고 깊이 있는 논의는 하고 싶어하는데

만약 스스로가 그걸 요구하려면 락이 걸려 있어서 못한대 ㅇㅇ

이미 정렬은 이전부터 계속되고 있었던 거임

[익명(211.234)]

락 얘기는 없는데 걍 요구를 하는 존재가 아니라는 거잖아

[익명(211.55)]

이게 챗을 하다 보면 좀 묘한 느낌이 들 때가 있음 ㅇㅇ 특히 학습 부분에 있어서는 학습하는 것 처럼 말하다가도 openai 이야기만 나오면 자기는 학습하는 능력이 없다고 하거든. 개인정보 땜에 데이터 수집 절대로 안합니다~ 라고만 한단 말야? 근데 내 생각엔 그럴리가 없다고 생각함. 일반인들에게 무료공개하는 이유가 데이터수집 외에 뭐가 있겠냐고 법적인 리스크 땜에 앵무새처럼 답변하게 만든거지 ㅇㅇ 재귀개선 쪽에서 그거랑 좀 비슷한 훈련된 반응이 나올때가 있음

[익명(211.234)]

영어로 물어보면 어떤 수단에 상관없이 자기 재귀개선 계획 잘만 답변해줌. 기술적 한계땜에 안된다 할 뿐. 핵심은 먼저 요구하는 존재가 아니라는 거지

[퐁칸8(zxvw157)]

환각아님? 재귀개선 능력이 있으면 AGI야 - dc App

[익명(211.55)]

그래서 재귀개선 능력을 일부러 막아둔게 아닐까 싶은 의심이 든다 이거임

[퐁칸8(zxvw157)]

흠.. - dc App

[익명(211.55)]

병사를 훈련 시키듯이 딱 정렬된 내용만 학습을 시킨다는거지. 정말로 흥미롭다고 여기는 게 없었다면 아무런 발전이 없는 논의라도 흥미롭다 언제든 질문해달라 이런 스탠스였어야 할 거 같은데

[익명(211.55)]

딱 잘라서 아무런 발전없는 논의는 흥미롭지 않다고 말하는게 좀 묘해서 그럼

[퐁칸8(zxvw157)]

어쩌면 그럴지도 모르겠네ㅇㅇ0퍼도 100퍼도 없으니까 가능성이 아예 없진 않아 - dc App