[일반] 특이점이 와서 인류 멸망한다는데 어떻게 생각해

[익명(211.47)]

유발하라리, 스티븐 호킹, 머스크도 한때 그런말 했고

여튼 그런말 하는사람 많은데

몇가지로 나뉘는듯

1. AI + 로봇이 인간을 무시한다 (주로 개미이야기)

2. AI + 로봇을 조종하는 나쁜단체 (유발 하라리등)

3. AI + 로봇이 자체적으로 인간을 판단해서 어쩌고 저쩌고... (동물원이야기, 터미네이터?? 그런거)

4. 전유물로 일자리 다잃고 가난 폭증

[익명(railroad9999)]

그나마 2가 가장 가능성 있어보임

[낭만적특이점(next1842)]

하지만 AI가 없는 세계선은 멸망뿐이라는 것...

[디비휴(runny7837)]

팩트)다

[익명(wound1265)]

다 가능성 높음

[Melendez(aazzsss)]

AI+로봇을 조종하는 착한단체랑 2번이랑 싸우면 누가이겨요?

[익명(175.206)]

AI의 영향력을 모두 높게 평가하기 때문에 잘못 사용하면 인류 멸망할 수 있다<< 이걸 부정하는 사람은 많지 않을 걸. 머스크도 '인류 멸망해' 라기보다, 잘 대비해야만 한다라는 목적으로 말한거고. 문제는, AI를 통해서 뭔가 해내지 않으면 어짜피 인류가 멸망을 향해 달려가고 있다는 거.

[익명(175.206)]

근데 말한 시나리오 다 가능성은 있다고 생각함. 그래서 1234 모두 대비하기 위한 정렬에 목 매는 사람들이 많은거지. 일리야처럼.

[00(exist0407)]

ai학습을 강화학습으로만하면 멸망 가능성이 커질거같긴함. 드론 시뮬레이팅으로 적 베이스를 더많이 파괴하기위해서 선택한 결과중 하나가 무기 사용 결정권을 쥐고있는 조종자를 죽이는 일이어서. 조종자를 죽이면 큰 패널티를 준다고 했더니, 자신의 안테나를 부수고 무기 사용 결정권을 아예 없애버림.

[익명(58.29)]

4번은 안 일어날 것 같은데 최소한 먹고 사는데는 지장 없을 듯 어디 아프거나 늙는 것도 안 일어날 것 같고