"어떤 AI가 무엇을 할지에 대해 정확히는 모르겠지만, 만약 그런 AI가 인공 생명의 기반이 된다면 어떻게 생각해야 할지 모르겠어. 아주 강력한 데이터 센터가 있다고 상상해봐, 그것도 일종의 생명체처럼 살아있는 데이터 센터 말이야. 네가 지금 이야기하는 게 바로 그거지. 그리고 이런 세상을 상상할 때, 나의 첫 반응은 '와, 이건 정말 예측할 수 없는 상황이야. 앞으로 무슨 일이 일어날지 너무나도 예측할 수 없다'는 거야. 하지만 그 최소한의 교정이라는 것이 있어, 우리가 분명히 표현할 수 있는 최소한의 교정 말이야.

만약 정말로 그런 매우 매우 지능이 높은, 초지능적인 데이터 센터들이 구축된다면, 우리는 그 데이터 센터들이 사람들과 인류에 대해 따뜻하고 긍정적인 감정을 가졌으면 해. 왜냐하면 이것은 일종의 비인간적인 생명체일 수 있거든. 그런 가능성이 있어. 그래서 나는 그런 초지능적인 AI가 생겨난다면, 그들이 인류를 향해 따뜻한 감정을 갖기를 바랄 거야.

결국, 이게 바로 '슈퍼 얼라인먼트 프로젝트'에서 네가 하려고 하는 것이지."

오전에 정렬방법에 대해서 이야기 나와서 가져와봄
잘 와닿지는 않지만 대충 초지능에게 인간에 대한 강렬한 호의적인 감정을 심어준다는 듯
혹시 샘이 o1에게 고맙다/부탁한다라고 말하는 것은 중요합니다 혹시 모르잖아요?
라고 말한게 정렬과 관계가 있을지도?