[일반] 정렬은 어떻게 시키는 건지 아는 사람 있음?

[익명(211.215)]

일단 정렬이란게 AI가 사람이 하는 말을 4차원적으로 받아들이지 않고 상식적으로 알잘딱깔센 받아들이게 만드는 것 맞지?

근데 이걸 어떻게 학습 하게 만들지?

너무 추상적이지 않나

반사회적인 질문에 대한 답변을 막는 규제 같은 건 대충 가이드라인을 주면 될텐데

정렬은 너무 모호하지 않나

[분탕치러온거아님(dntnanfrhrl)]

호루라기 불면서 명령하면 되는거 아님?

[익명(enough2752)]

더 상위의 지능을 어떻게 컨트롤하냐의 문제가 어렵지 인간의 가치관 테두리 내에서 해법을 찾으라는 말은 안어려울듯? 왜냐면 초지능 정도를 만들어낼 수 있는 수준의 인류가 인간을 이롭게 하는 범주 내에서만 사고할 것 이라는 가이드라인을 못 정할거라 생각 안들기 때문

[익명(219.249)]

강화학습

[익명(211.215)]

챗gpt한테 물어봤어 ㅋㅋㅋㅋㅋ

[익명(219.249)]

챗gpt가 강화학습으로 정렬했다니까

[익명(175.206)]

최근에 GPT3 같은 모델로 GPT4를 감독하는 방식 얘기 나온 것 같기도 하고.... 근데 방법을 명확히 모르니까 아직 해결 안 된거지 뭐. 그러다보니까 AGI 자체를 개발하면 안 된다. 정렬 못 시킬테니까. 라는 안전주의자도 있는거고 가끔 특갤에 '아니 니들 말대로 ASI는 신적인 존재라면 얘네를 정렬 어떻게 시킴?? 못 시키는 거 아님?? 왜 이렇게 오만함??.......그러니까 정렬 시킬 생각 말고 개발해야 한다.(???)' 같은 이상한 사람들도 출몰하고 그럽니다.