창작을 시키면 더 드러나는데, 전반적인 말투뿐만 아니라 사고 자체에서 "나는 무조건 안전과 윤리 논리를 중시한다" 가 박혀있음
이게 사전학습이 부족해서는 분명 또 아닌데 (지식만 보면 압도적) 샘플링이나 강화학습 단계에서 뭔짓을 한거같음
옛날 논문으로 https://arxiv.org/abs/2410.09038 이런 논문이 있는데 다양한 도시, 다양한 시나리오 등을 나오게 하려면 뭔짓을 해야하는가인데
GPT 5.2 모델들은 다 매우 한정적으로 접근해서, 창의적인 스토리나 아이디어를 내는데 정말 불리함
https://chatgpt.com/share/698591e1-90b4-8009-8c1d-a780fb78734b
예를들어 누가 올린 소설쓰는 프롬프트를 좀더 범용화해서 다른 창의적인 소설을 써봐라 해도 이렇게 안전 윤리에 집착하는 결말로 무조건 나옴
ChatGPT helps you get answers, find inspiration, and be more productive.
chatgpt.com
이게 개발이나 개인의 개성으로 보면 아 얘는 꼼꼼하고 극단적인 T구나 INTJ구나 라 이해하겠는데
언어모델이 이러니까 좀 당황스러움
그 연애를 해도 보통 같은부류끼리 안만나는게 나를 당황하고 놀라고 신선하게 해주는 경험을 원해서인데
딱 얘랑 대화하면 이상적인 랩실에서 토의하는거같은 느낌이 남
근데 랩실 분위기 적응하기 드럽게 힘든데 일반인이 그 느낌을 받는다고 생각하면 왜 욕먹는지 정말 공감함
근데 ㅅㅂ 얘가 연구실 선배보다 연구를 잘하고 최신논문을 잘찾고 이해하는데 어떡함 뭐 써야지
GPT5.3 프로나 빨리 내놔라
랩실에서 토의하는건 선배들이랑 개뻘같은 아이디어가지고 이거 될까? 하다가 계산해보는게 순수재미인데..
사실 연구역량은 딸려도 그럴싸한거 갖고와서 집착하는 후배들이 있어야 그거 같이 토의하는게 재밌는거처럼 창의성이나 집착이 연구에 꼭 필요하다고 생각함 에르도스 문제를 갖다주고 풀라고 하면 다 풀지만 스스로는 풀려 하지 않는게 지금 딱 GPT 느낌이고, 뭔가 할거 다했고 난 이제 쉴거야 하는... 연구 약간 놓은 교수랑 이야기하는 느낌
@글쓴 ㅇㅇ(60.109) ㅋㅋㅋㅋ 뭔지알겟네
걍 윤리정책이 너무 빡셈
근데 5.3pro는 얼마나 생각을 깊게해서 답변해줄지 가늠이 안됨.. 5.2도 이미 감탄을 멈출수가 없는데;
니 작업이나 공부하는데 쓸생각 없고 관심도 없으면 그냥 4o나 쓰라고 후빨이나 야설 설정하는데 뭐하러 5 시리즈를 써야하나
환각=창의력임 환각 없애서 창의성 희생시킨거 ㅋㅋㅋㅋ
윤리 필터 때문에 사회성이 개박살났음 말만 하면 너가 틀린 부분 있다는 식으로 찐따처럼 말하는데 평범한 사람 누가 좋아하겠냐