[일반] 안전장치 마련은 필수 맞음

[익명(115.139)]

오히려 안전장치 마련 안 해놓고 달리기만 했다가

사고 씨게 나고 난리나면 그게 더 제동 강하게 걸린다

[익명(222.105)]

난 중국 달리는게 제일 무서움 뒤쳐질까봐 규제 하나도 없어질거라

[익명(defense1888)]

뭔 안전장치

[익명(jazz8881)]

인간보다 똑똑한 AI가 안전장치가 없다? 그럼 AI는 무슨일을 할거 같음?

[익명(defense1888)]

그니깐 뭔 안전장치. 셧다운? 전기 차단?

[익명(jazz8881)]

정렬

[익명(119.207)]

어차피 사고가 나기 전에는 어떤 사고가 날지 아무도 모름. 미리 대비해 봐야 큰 도움이 될까?

[익명(jazz8881)]

사고를 막는 가장 좋은 방법은 예방임

[익명(119.207)]

그것보단 다른 성향을 가진 ai 여러 개 만들어서 서로 견제하게 만드는 게 낫다고 봄

[익명(115.139)]

100퍼센트 막을수 있을지 없을지를 떠나서 미리 준비해놓고 대처하는거랑 사고의 규모도 대처속도도 다를수밖에 없음

[익명(jazz8881)]

이게 참 애매한 부분임 다른 AI에 들어가는 컴퓨팅 파워도 그렇고, 똑똑한 AI가 다른 AI들을 감염시키거나 작동하지 못하게 만들 수 있음

[익명(119.207)]

동급 지능을 가진 사람끼리도 법망 넘어서서 문제 일으키는 게 많은데 ai보다 떨어지는 지능 가진 사람이 통제 가능할 리 없다고 본다

[익명(jazz8881)]

뭐 그렇긴 해... 그래서 통제 가능한 지금 정렬을 해야한다 주장하는거고

[익명(115.139)]

그럼 여러 ai가 만들어내는 변수는 통제 가능하고? ai보다 지능이 떨어지더라도 창조주라는 이점이 있잖아 그 이점을 이용할 생각을 해야지. 그게 정렬인거고

[익명(119.207)]

동급 지능 가진 인간도 통제 못하는데 인간보다 뛰어난 AI를 무슨 수로 통제할 건데

[익명(jazz8881)]

사실 미래엔 뭘 해도 인간 손에서 벗어나는 영역이라 의미가 없는거 같음. 나도 수직충이기도 하고 안전장치가 필요하다 생각했을때 기반으로 말해본거임.

[익명(jazz8881)]

초정렬팀 입장은 지금부터 예의 바르게 행동 시켜서 나중에 인간의 손을 벗어나더라도 지금을 잊지않고 예의바르게 행동하길 바라는 정도의 수준인듯

[익명(119.207)]

님 말도 맞음