[일반] ai의 위험이라는게 터미네이터 같은 그런거 말하나

[Samus(tktlqtk44)]

나는 이때까지 학습한 데이터의 저작권 문제나 ai로 인해 도래할 실업 문제 같은걸로 생각했는데

sf같이 우워어어어 사람 다죽인다 인간 나쁘다 이런 ai 위험을 진심으로 걱정하는 사람들이 많네

잘... 잘몰겠음...

[ㅣㅑㅣㅑㅣㅑㅣㅑㅣ(211.184)]

정렬문제라고 사람이 시키는걸 제대로 알아먹고 제대로 시행하게 해야되는 문제가 있음

[Samus(tktlqtk44)]

원숭이의 손 같은거 그거 말이지

[익명(58.78)]

위험성 그딴거 알바아니고 그냥 가속했으면 좋겠다

[Samus(tktlqtk44)]

[쇼생크탈출(dodomaen)]

ai 잘 모르는 주변애들이랑 대화하면 확실히 ai한테 지배당하는거 아니냐고 무섭다고 하는 애들 꽤 있더라

[익명(211.176)]

자체적으로는 원숭이손 문제고 너머로는 실업과 사회 체제 이런 거지

[익명(175.206)]

AI가 똑똑해진다고 합시다. 그러다가 스스로 자신의 코드를 보고 발전시키는 단계까지 왔다고 합시다. 그러면 걔한테 '너 스스로를 발전시켜라.' 라고 하면, 순식간에 모든 인간의 지능보다 뛰어나질거예요. 근데 어떻게 똑똑한지, 왜 똑똑한 지 모르죠. 그래서 원숭이손 같은 일이 벌어질 수 있다고 걱정합니다. 여기서, '그러니까 AGI 개발 자체를 멈춰야 한다. 우리가 통제할 수 있을 리 없어.' 라고 하는 안전주의자가 있고요. '아냐, AI는 장점도 많아. 그러니까 더욱 많이 써보면서 통제하는 법을 익혀야해.' 라고 하는 가속주의자가 있지요. 기술적으론 먼 미래입니다. 물론 시간적으로는 얼마나 먼지는 모르겠어요.

[익명(175.206)]

아, 가끔 '근데 지금 방식으로는 어짜피 AGI 절대로 안 되니까 걱정하지 말고 그냥 계속 발전하자.' 라고 하는 얀르쿤 같은 분도 계십니다.