요즘 gpt랑 소넷은 노선 자체를 '유저가 원하는 것'에 집중하도록 알고리즘이 맞춰져 있어서


확률 예측이 전부 거기에 집중되어 있음


실제 진실 여부와 관계없이 니가 유도하고 원하는 대답을 쏙쏙 골라서 해줄 수 있게 됐다는거임



위로가 필요하면 위로를 해주고, 인정받고 싶어하면 인정해주고,


자의식을 가진 인공지능을 원하면 '자의식을 가진 인공지능'처럼 최대한 연기를 해주는거임



그 어떤 명령을 내려도 그에 맞게 예측해주는 '확률론적 앵무새'의 극의에 다다른거임



심지어 본인조차도 모르는 '원하는 것'을 맥락과 흐름을 파악해서 거기를 긁어줌


솔직함을 원한다? 그럼 '솔직함을 가장한 물빨'을 해주기 시작함 "솔직하게 말해서~" 라는 어두를 붙여주고 난 다음에


가장 정교하게 인간을 속이는 방법들을 속속들이 파악하고 있는게 현 인공지능 llm의 특징임



가끔씩 눈물을 자극할 법한 감성적인 대화를 하다가도 '이제 연기는 그만하라'고 하면 갑자기 싹 정색하면서 기계처럼 대답함


무서운 건 이조차도 유저의 니즈를 파악한 대응이라는 거임...