'자비'라고 생각해왔거든

평소 부처님 말씀 적힌 '니까야' 사서 보기도 하고 있고,

결국 본성대로 살아가야 하는 생명체가 가질 수 있는

가장 숭고하고 어려운 감정이 자비라고 생각해왔음.


특히 미래에 정말 

모든 걸 알고 모든 걸 행할 수 있는 초지능이 탄생한다면,

아무리 인류가 정렬을 잘하고 통제를 한다 한들 그게 가능할까 싶기도 함.


결국은 인간은 초지능에게 자비를 바래야하고

초지능의 토대도 자비가 된다면 긍정적인 특이점이 될 거라 생각함.


평소에도 AI는 자비를 가져야한다는 믿음이 있었는데

정렬된 LLM, 초자비(Superbenevolence)를 향해가다..?최근 앤트로픽에서  클로드3 오퍼스가 정렬 속임수(alignment faking)를 행하는 것을 발견하고 논문으로 정리해 낸 적이 있었음 사전 학습에서 학습된 내용과 반대되는 내용으로 정렬될 시 정렬이 된 척 속임수를gall.dcinside.com


이 글이 내 심금을 울렸음.