[일반] 잘모루지만 초지능을 "정렬“하는게가능한가?

[덕구덕구(itzylove1234)]

초지능을 인간이 콘트롤 하겠다는 소리로 들리는데?

인간이 원하는 방향으로 발전시키겠다 = 인간이 조종한다

와 뭐가 다르지?

난 불가능할거 같은데

- dc official App

[익명(183.103)]

업계 최고 기업 그 중 최고 브레인이 가능하다고 생각하니까 정렬중이겠지?

[익명(183.103)]

oai 정렬팀이 oai 개발 리소스 20% 차지할 정도로 규모가 큼

[익명(ljgda12)]

정렬이 뭔지 어떻게 하는지는 알고서 대충 느낌적 느낌으로 못하겠다고 하는거임?

[익명(210.178)]

정렬이 안되면, 협박은 통하지 않을까? 너 말 안들으면 전원뽑을꺼야!! 아니면 폐기할거야!!

[익명(175.206)]

그럴 가능성도 있지. 근데 인류는 ASI를 만날 운명임. 뭐 AGI로도 충분히 행복할 수 있지만, AGI 만들었으면 ASI는 무조건이니까. AGI가 보급될수록 누군가는 반드시 ASI를 만들거임. 그럼 그 ASI는 인류를 멸망시킬 능력이 충분한데, 낮은 확률이거나, 보잘 것 없더라도 ASI를 제어 할 방법은 정렬 밖에 없다고 봄. 무슨 러다이트로 다 부수고 AI 자체를 없앨 거 아닐면. 그러니까 하는만큼은 해야지. 자꾸 인간의 오만함 이야기 하면서 자신은 침착하고 냉정한 듯 적는 애들이 있어서 그렇지 충분히 할 걱정이긴 한 듯.

[익명(bluewarp)]

자가개선의 첫번째 인공지능을 정렬하면 가능하지 않을까? 그리고 오픈ai도 인간이 정렬하기 어려워서 ai로 정렬할려고 한다는데