ai가 학습을 인간의 컨텐츠를 학습하다 보니 ai도 인간처럼 비스무리하게 변하는거 같더만
여기서 못난건만 배우면 우에 되나?
예를 들어서
못난 부모 밑에서 자란 애들 같은 경우
부모의 이름부터 어릴때부터 창피함 아빠가 똥차 끌고 다니는것도 애들한테 들킬까봐 부끄럽고
운동회나 아빠 학교 오는거 가장 부끄럽고
무슨일하는지 적어낼떄도 엄청 부끄럽지 이떄 '사업가'라고 맨날 구라 쳐야함
또 부부싸움은 365일 하루도 빠짐없이 집안이 난리가 남
어릴떈 아빠가 엄마 죽일까봐 매일마다 걱정하면서 사는데
나이먹고 보면 원흉은 엄마라 엄마가 정신병이 있는거라 끊임없이 구박 인신공격을 함
그래서 초딩때부터 아빠 죽어라고 매일같이 기도하면서 집에 왔는데도 매일 같이 살아있는 모습에 실망하고
이정도로 증오함
그니까 태어날떄부터 죽을떄까지 부끄러운 부모밑에서 자라고 단한번도 자랑스러운 부모 밑에서 자라보고 경험해보질 못한거지
이걸 과연 어떻게 학습을 할것이며
만약 학습을 한다면 못난 인간과 똑같이 변하는거 아니겠냐고?
그래서 똑같이 못난 행동하는 ai 나왔다 치자
이런 ai로봇이 쓸모 가치가 있겠냐?
그러면 결국 좋은것만 행동하고 부정적인건 전혀 하지 않는 ai만 존재 한다면
이것도 뭔가 이상하지 않나?
세상엔 못난 ai는 가치가 없냐고?
예시가 왤캐 수상할 정도로 자세함...
이미 못난거 배움(디시,레딧 같은거)
못난 행동은 절대 하지 않는것도 쫌 이상하지 않나?
그건 하지 말라고 교정되어서 그럼 그래서 jailbreak가 있는거임
묘하게 구체적인데ㅋㅋㅋㅋㅋㅋㅋ
그걸 고치려고 정렬이란 게 있는거임 물론 지 머리안에 있어서 시키면 하긴 함 디씨말투 따라해봐 같은거
근데 크게 장기적으로 보면 정렬이 쫌 안좋을거 같기도 하다 걍 정렬없이 못난것부터 잘난것까지 조화를 이루면서 성장하는게 훨씬 나을거 같기도 함
@ㅇㅇ 궁극적으로는 그런 학습을 추구하는 사람도 있긴 한데 어쨌건 지금 주류 학습 방식은 인간 선호도 따라가는거