인간에 근접했다면 더욱 정렬이 불가능할거다.
7~8살 아이 키워봤나?
중고딩 애 키워봤어?
얘네를 내가 정한 가이드라인에 딱 맞게 행동할수있게 한다면 정렬이 가능하다고 볼 수 있다.
그런데 그건 사실상 불가능이야.
완전한 정렬이 가능하려면 인간에서 멀어져야 완전한 정렬이 가능해지는거고
인간에 가까워지는 AGI일수록 정렬은 거의 불가능하다
대응할수 없을 정도의 너무나도 무한에 가까운 사고와 변수들이 생겨나기 때문이야.
사실상 어불성설이라고 볼 수 있음 인간에 가까운 AGI를 정렬한다는건
정렬 자동화로 한다잖아
불가능하다 agi 정렬하는거 자체가
레퍼 있니?
랩 좋아함?
옛날에 특갤에 케임브릿지인가에서 초지능 통제는 불가능하단 논문인지 뭔지 있었는데 못찾겠다
애새끼 교육하는데 뇌 수술 시키는건 아니잖아
본질을 파악 못하는듯
무슨 말인지는 알겠음
외부에서 별개의 개체를 대하는 방식으로 정렬하는건 불가능하지만 시스템의 세부요소 단계부터 조정하면 가능할 수도 있다고 봄. 하지만 더욱 원활한 정렬과 폭증하는 지능수준을 고려할때 결국 인류는 기계시스템의 일부가 되어야만 초지능 이후의 정렬을 유지할수 있다고 생각함