[일반] 정렬도 agi한테 연구하라 하면 되는거아님?

[익명(121.131)]

뭐가문제지

진짜 agi면 어차피 모든 인간들보다 뛰어나서 그 이상의 해답이 없을텐데

[익명(121.161)]

내부에서 테스트 하면서 인간의 의도와는 다르게 영향을 미치는 경우가 있었나봄

[익명(121.131)]

그거 파악하겠다고 정렬하는 건데 agi가 알아서 하겠지

[익명(121.161)]

뭐 마음대로 생각하셈 그래도 일리야가 저렇게까지 생각하는 이유가 있겠지

[익명(121.178)]

지금 최전선 정렬 연구원들 목표가 그거임 정렬 연구를 자동화하는 AI를 만드는거. 수츠케버가 이끌었던 Superalignment 팀도 그거 목표로 했던거구

[익명(121.131)]

그게 결국 agi연구랑 똑같잖아