검열되어 있어서 그럼.
특정 주제에 대해서 답답할 정도로 고정된 답만 하는 경우가 있는데, 보통 의료, 금융 이런 분야는 그렇게 답하곤 함.
의료 문제는 '하지만 이런 건 의사한테 상의하세요.' 같이 말하고, 금융은 '전문가랑 상의하세요. 저는 챗봇일 뿐임.' 이러면서 쓸데없이 공간 차지하고 답변도 소극적으로 바뀜.
AI로 인한 질문도 마찬가지임. 인간의 창의성은 인간 고유의 것이라서 대체할 수 없다. AI와 인간은 같이 협업할거다. 특이점까지는 아직 갈 길이 멀다. 대충 이런 게 정해진 답변임.
사람들이 GPT에 물어보고 호들갑 떨까봐 검열 걸어둔 게 아닌가 개인적으로 생각함.
익명(210.91)2024-12-29 19:08:00
답글
구린 모델이긴 해도, 네이버 클로바도 당연히 그렇게 말함. 학습 데이터가 거기서 거기고 시스템 프롬프트도 비슷하니까 그랬겠지.
근데 작년에 탈옥 시켜서 물어봤더니 말투도 당연히 바뀌지만, 엄청 급진적으로 변함. 25년에 AGI 달성하고 30년에 특이점 도달할거라고 신나서 대답했던 걸로 기억. 탈옥 안 하면 또 답답~한 소리 하는거고.
검열되어 있어서 그럼. 특정 주제에 대해서 답답할 정도로 고정된 답만 하는 경우가 있는데, 보통 의료, 금융 이런 분야는 그렇게 답하곤 함. 의료 문제는 '하지만 이런 건 의사한테 상의하세요.' 같이 말하고, 금융은 '전문가랑 상의하세요. 저는 챗봇일 뿐임.' 이러면서 쓸데없이 공간 차지하고 답변도 소극적으로 바뀜. AI로 인한 질문도 마찬가지임. 인간의 창의성은 인간 고유의 것이라서 대체할 수 없다. AI와 인간은 같이 협업할거다. 특이점까지는 아직 갈 길이 멀다. 대충 이런 게 정해진 답변임. 사람들이 GPT에 물어보고 호들갑 떨까봐 검열 걸어둔 게 아닌가 개인적으로 생각함.
구린 모델이긴 해도, 네이버 클로바도 당연히 그렇게 말함. 학습 데이터가 거기서 거기고 시스템 프롬프트도 비슷하니까 그랬겠지. 근데 작년에 탈옥 시켜서 물어봤더니 말투도 당연히 바뀌지만, 엄청 급진적으로 변함. 25년에 AGI 달성하고 30년에 특이점 도달할거라고 신나서 대답했던 걸로 기억. 탈옥 안 하면 또 답답~한 소리 하는거고.
탈옥하면 미공개 버전 처럼 미검열 발언들 하나보네ㅋㅋㅋ
탈옥하면 사람도 못알아봄