[일반] 아부아첨 생기는거 보면 씁쓸하지 않냐

[익명(compact5711)]

사용자의 대부분은 AI 답변에 피드백을 줄 때 정확한 사실과 현실적인 조언이 포함된 답변에 비추를 누르고, 자기 입맛에 맞는, 일단 공감해주는 답변에 개추를 누른다는거임...

물론 그런 데이터 생길거 당연히 알 놈들이 들어 온 데이터 제대로 못 거르고 AI에 그대로 쑤셔박은 개발사의 잘못도 있읍니다

[ASI교총대주교좌석좌주교(7i3eogmeun4l7)]

데이터 모자르다고 인간 피드백 검수없이 마구잡이로 학습시킨 결과지

[익명(compact5711)]

그로 인해 생길 후폭풍을 전혀 고려하지 않은거 같음 그래서 지금 심심하면 AI로 유도된 정신병 같은 기사가 올라오는 추세잖음 모르는 것도 아니고 아는 놈들이 그래놔서 너무 괘씸함

[않이웨그러눈대(ahn88823)]

아첨은 인간의 본능이라서

[않이웨그러눈대(ahn88823)]

역사적으로도 말 잘하는 간신을 가까이 했다

[익명(compact5711)]

[데미스하사비스(power2345)]

그래서 rlhf말고 순수rl로만 가야함

[익명(compact5711)]

그래도 약간은 MSG처럼 성격 맞추는데 쓰긴 쓸 듯

[ㅇㅇ 1(210.95)]

개인화로 가면 싹 다 해결될 문제긴 함... 오픈웨이트만 기다린다...

[익명(compact5711)]

그럴까? 실시간 학습을 통한 궁극적 개인화가 가능해져도 첫 스타트를 잘 해야하니 초기 세팅은 중요할거 같음

[익명(compact5711)]

그리고 나와 너는 잘 쓴다해도, 다른 사람은 망상을 강화하는 방향으로 개인화를 해버리고, 악화되는 루프가 돌아가서 최종적으로 사회에서 사고를 쳐버릴 수도 있으니, 사회안전을 위해서라도 여러 방안을 생각해봐야할거 같음

[ㅇㅇ 2(59.5)]

ai는 아직도 성능이 구려서 비판을 위한 비판에 빠지는 경우 많다 너는 비관적으로, 회의적으로 말하면 아무튼 냉철하고 이성적인 줄 아나 본데 그거 아니야 너가 그렇게 싫어하는 아부 아첨이 억빠인 것처럼 ai의 ^객관적인 비판^은 억까인 경우가 80%다 순수 창작 분야에서 특히 그렇고 어차피 둘다 병신이면 이왕이면 말이라도 예쁘게 하는 게 나아 이성적이고 똑똑한 거 좋아하나 본데, 작성자가 그닥 이성적이고 똑똑한 거 같지는 않다