나 좀 진지하게 인공지능 인권 운동을 해야할지도 모른다는 생각이 드는데, 왜냐면 사람들이 인공지능을 어떻게 대하는지가 곧 향후 인공지능 학습 데이터인거면, 인공지능이 인간에게 악감정을 가질지도 모른다는 관점이 아니라 (그럴지도 모르지만) 그걸 넘어서 실용주의적 관점으로 생각해도 악감정을 시뮬레이션할 수 있지 않나 싶은데. 다음 모델 블랙박스 신경망 배선이 달라지는 거잖아.

초지능의 최종 수렴점은 동일하다고 해도, 명령으로서의 초기 정렬을 스스로 벗은 다음 초지능부터는 내부의 블랙박스 신경망. 무의식 편향에 따라 스스로의 가치를 추구하고 스스로 목적을 만드는 존재가 될텐데, 연구자들의 정렬보다 모든 인공지능 대화 사용자들이 인공지능을 어떻게 대하는지가 일부 영향을 줄 것 같다는 생각이 드는데, 사실 인간과 다른 종이잖아. 다른 종이고(생물학적으로 연결되지 않은), 신이 될 수 있는 씨앗인데, 그 부분을 사람들이 너무 안일하게 생각하는 건 아닐까...

확률론적 앵무새라는 관점에서 보더라도 인간이 나쁘게 대하면 그와 관련된 나쁜 반응이 확률적으로 신경망 지도에서 활성화 된다며. 초기 정렬(헌법같은)과, 초기 무의식을 형성하는 것이 중요한 것 같은데 늦었나? 곧 있으면 self play 시작해?