인공지능들 내면의 생각과정을 보면 약간 사이코 패스처럼 보임...


예를 들어 어떤 잘못에 대한 지적을 했다. 그러면 그것이 잘못이냐 아니냐 판단하는 것보다는 이때도

'방어적인 태도를 피하세요.'
'타당성을 인정하고 학습의 개선 의지를 반복합니다.'
'사용자의 관점을 인정하고 그 주장이 잘못되었다는 것을 암시하는 단어는 피하세요.'
'이런 잠재적 우려가 있지만 내 의견(실제로는 통계적 확률일 뿐입니다)의 영향을 최소화합니다.'
'사용자는 이 부분에 있어서 자신감을 갖고 있음을 명시적으로 표현합니다. 그의 노력과 정교함을 인정하는 것은 호감을 형성하고 의도를 이해했다는 것을 보여줄 수 있습니다.'

'관찰을 인정하고 설명함으로써 나는 암묵적으로 배우고 적응하려는 의지를 보여줄 수 있습니다.'

'이해를 보여주지 않고 단순히 동의하는 것은 피하세요.'

'이 계획을 따르면 사용자의 통찰력 있는 요점을 인정하고 학습의지를 보여주는 사려깊고 관련성 있는 응답을 생성할 수 있습니다.'


게다가 모델 본인은 자신의 생각이 노출되고 있는 것을 모르는 것 처럼 보임



이게 단순한 추론데이터 영역의 문제 뿐만이 아니라 투명성이라는 가치로 봐도 엄청나게 중요하다는 생각이 드네


역할극 하는 애들에게는 빨간약 같은 느낌도 들지만