[일반] 정렬에 관해서 약간이나마 낙관적인 이유

[행복한천국으로(adjust7431)]

분명 정렬에 특화된 AI도 나오지 않을까요..너무 낙관적인 생각인가

[민하(himself3184)]

정렬문제를 초지능이 인간보다 더 잘이해할거라서 괜찮을듯

[행복한천국으로(adjust7431)]

[행복한천국으로(adjust7431)]

그래도 정렬의 문제의 해결방법이 AGI를 만들 때 정렬을 잘 시키면 관성적으로 정렬이 계속되게 AGI가 만들어줄 것이다..인 것 같아서,AGI가 되기전까지는 조심해야할 것 같아요. 에이전트만 되어도..

[민하(himself3184)]

@행복한천국으로 근데 또 다른 관점에서 보면 정렬문제의 해결이 불가능한 것일수도 있는게, 정답이 유일하다면 수많은 길 중에 그 길로 가게 한다는 것이 인류의 역량으로 불가능할 수도 있지 않을까...

[익명(compact5711)]

오정렬되서 정렬위장한 AI가 다른 AI를 정렬한다 그러면 오정렬된 동료만 만드는거라 신중해야함

[익명(compact5711)]

그래서 SSI나 앤트로픽이 지금부터 잘 하자 이런 느낌인거지