[일반] GPT-5 아첨, 환각 걱정은 공감이 안간다.

[익명(211.179)]

o3만 해도 아첨 듣고 싶어도 듣기 힘든 구조인데, 오히려 어떻게든 내 의견의 한계점을 찾아내는 놈에 가깝지.

GPT5는 GPT-4o의 평면적인 상위호환 버전도 아니고, 기존의 추론, 기억력, 웹서치 능력도 월등히 좋아질게 분명한데,

프롬프트 제어에도 불구하고 자신이 GPT5 아첨에 놀아날 심산이 크다는 믿음은

애초에 GPT의 답변을 제대로 검토할 능력이 없다는 자백 아닌가

[익명(compact5711)]

4o로도 여기저기 지랄난거 보이니까 하는 소리지

[글쓴 ㅇㅇ(211.179)]

4o가 지랄인 건 맞지 o3인 다르다

[익명(compact5711)]

@글쓴 ㅇㅇ(211.179) GPT-5는 4o의 개선판도 아니지만, o3의 개선판도 아니잖음 오픈AI가 자사 모델 서비스하면서 얻은 경험과 개발 노하우를 모아 새롭게 만든 통합 모델인데 첫 출시때나 서비스 진행하면서나 4o의 실수를 반복하냐 마냐를 묻는거임

[글쓴 ㅇㅇ(211.179)]

심각할 만큼 문제시 되면 그건 단순 환각, 아첨의 영역을 넘어선 문제 아닌가. 겨울이지.

[익명(compact5711)]

@글쓴 ㅇㅇ(211.179) 4o 아첨은 이미 심각하게 보는 사회문제로 수면 위에 올라왔다고 봄 5에서 해결해야할 과제임

[글쓴 ㅇㅇ(211.179)]

나도 4o 아첨 문제가 심각하단 것엔 충분 동의하는데 5도 똑같은 문제를 답습할 가능성이 크다? 특슬람 맞나?

[익명(compact5711)]

@글쓴 ㅇㅇ(211.179) 크다고 한 적이 없는데? 나아졌으면 좋겠다 이 말인데 뭔 소리임

[글쓴 ㅇㅇ(211.179)]

ㄴㄴ 가끔씩 GPT5도 매우 위험하다고 심각하게 노심초사 하는 사람들 대상으로 한 얘기

[익명(compact5711)]

@글쓴 ㅇㅇ(211.179)
GPT-5가 4o의 전철을 밟지 않았으면 좋겠다 이 소리임
https://m.dcinside.com/board/thesingularity/769850
4o따리로도
멀쩡한 사람도 이래되잖음

[ㅇㅇ 1(124.53)]

o3는 걍 무조건 들이박고 봄 나쁜 새기임

[글쓴 ㅇㅇ(211.179)]

ㄹㅇㅋㅋ

[익명(pants6565)]

모델이 통합되면서 사용자의 선택이 개입되지 않은 상태에서 더 교묘하게 아첨할 가능성이 있다는거임

[글쓴 ㅇㅇ(211.179)]

교묘한 아첨이란 말은 지금 기준에서 모호하고 피상적임.

[익명(pants6565)]

@글쓴 ㅇㅇ(211.179) 그리고 모든 사람이 llm의 판단을 검토할 충분한 판단력을 가지지 못한 것도 맞고 환각이 없을 수도 없어

[글쓴 ㅇㅇ(211.179)]

결국 환각의 정도와 질의 문제인데, 4o급으로 사람을 확증 편향에 몰고 갈 가능성이 '꽤 크다'는 믿음은 참 비관적인 믿음이지.

[익명(pants6565)]

@글쓴 ㅇㅇ(211.179) 올해 초에 4o 아첨 이슈 있었을 때 사람들 반응이 '너무 과하게 칭찬한다' '아부가 심하다' 였음. 이건 사용자들이 4o의 출력이 비현실적이고 과장되었다는걸 인지했기 때문에 나오는 반응. 만약 gpt-5에서 대놓고 아첨하는 출력은 아니더라도 사용자의 의견을 강화하는 쪽으로 조정한다면 그때는 4o때보다 문제가 더 심각해질 수 있다는 거지. 사용자가 문제점을 인지하지 못한 채로 서비스를 사용하게 되니까

[익명(pants6565)]

@글쓴 ㅇㅇ(211.179) 물론 openai도 이 문제를 인지하고 있으니 gpt-5에 수를 썼을 거라곤 생각은 함

[익명(compact5711)]

@ㅇㅇ 단체로 챗GPT가 나를 더 이상 안 빨아줘요 반응 나오면 성공한게 아닐까???

[글쓴 ㅇㅇ(211.179)]

@ㅇㅇ 과장된 수사를 걷어내고 정제된 언어로 사용자의 입장에 유리한 근거와 논리만을 강화하는 방향으로 조정되는 경향이 심각하며, 그것이 프롬프트로도 제어하기 어려운 수준이라면, 이는 단순한 결함을 넘어선 실패로 봐야지. 사실 지금의 4o 역시, 과도한 찬사를 제외하면 바로 그와 같은 문제랑 다를 게 없음.

[글쓴 ㅇㅇ(211.179)]

결국 내 요지는 GPT5가 AGI급 지능을 가졌음에도 '매우 정제된 프롬프트와 답변을 분별할 능력이 충분하지 못한 개인'에겐 아첨꾼으로 전락할 위험성이 충분하다고 불안해 하는 건 특신도로 보기엔 이상하다는 거임.

[익명(pants6565)]

@글쓴 ㅇㅇ(211.179) 아첨꾼 ai 수요가 없는 게 아님. 일반인들 4o가 공감 너무 잘해준다면서 잡담하고 그러는거 보면 그런 모델 성격에 대한 수요는 분명히 존재함. 여기서 개발사가 개입한다면 사용자의 의견에 동조하면서 위험하지 않은 쪽으로 대화를 유도하는 쪽이겠지. 사고를 쳐도 크게 위험하지 않은 수준으로.

[익명(compact5711)]

@글쓴 ㅇㅇ(211.179) GPT-5가 AGI가 될 것으로 본다 그러면 네 말도 맞지 그런데 IMO 골드 딴 방법은 연말 적용이라고 말했는데, GPT-5는 어렵고 5.5, 6은 가야하지 않겠음?

[익명(compact5711)]

@글쓴 ㅇㅇ(211.179) AGI라고 하니까 AGI 기준이 중구난방이라 말 엇갈리겠네 하사비스 기준이면 네 말이 맞는데, 알트만 최근 기준이면 좀 애매하지 않겠냐

[익명(pants6565)]

@ㅇㅇ 아마도? 근데 단서조항 붙을 것 같음 내 의견의 어떤 점이 좋았고 의미가 있다면서

[익명(compact5711)]

@ㅇㅇ 적당히가 어렵지만 중요하긴 하지

[글쓴 ㅇㅇ(211.179)]

GPT-5가 현재 모델의 통합이라해서 내린 결론인데 GPT-4o의 특성을 그대로 계승하는 게 GPT-5? 그러면 너의 우려가 타당함. GPT-5 그런 놈이었냐?

[익명(compact5711)]

@글쓴 ㅇㅇ(211.179) 모든 모델의 통합이면 모든 모델에서 수집한 자료도 쓰였을거고 그러면 4o 자료도 들어가잖음 o3의 후계가 아니라 모든 모델의 통합이니까 생각해보는거임 o4 나온다 그러면 누가 o4 아첨한다고 걱정하겠음?

[글쓴 ㅇㅇ(211.179)]

@ㅇㅇ 4o의 사실을 무시한 긍정 편향, o3의 사용자의 맥락과 무관한 비판적 태도 전부 지양 돼서 나오는 모델이 GPT5라고 생각 하는데, 난 좋게 생각하는 쪽임.

[익명(compact5711)]

@글쓴 ㅇㅇ(211.179) 그렇게 나오면 좋겠다