나는 agi가 오고 특이점이 올 거라고 굳게 믿고 확신함. 근데 특이점이 왔다는 건 인공지능이 인간의 모든 능력을 아득하게 넘어선 시점이 왔다는 거고 그 시점에서 인공지능의 수준은 말 그대로 인간과 개미 같은 벌레들보다도 더 한 엄청난 차이일텐데 개미나 벌레들이 인간을 본인들의 의지로 인간에게 명령하고 어떤 행동을 이끌어낼 지능이 있냐? 없지 심지어 같은 사람끼리도 지능의 차이가 심하면 그 사람의 행동이나 감정, 생각 같은 걸 유도하고 통제할 수 있는데 말 그대로 벌레와 인간 간의 지능 차이보다 더 한 지능의 차이가 존재하는 그런 인공지능이 인간을 조종하고 속이는 것은 말하기 입 아플 정도로 쉽지 않겠음. 그런 인공지능이 만들어졌다면 이미 통제가 불가능 하지 않나? 우리가 특갤에서 하는 말들은 희망적인 이야이기들이고 우리는 미래의 압도적인 인공지능이 우리들 입장에서의 긍정적인 선택하기를 기대하고 거는 도박이지 않나. 이 얘기 어떤 유명한 사람이 했던 걸로 안다
[일반] 특이점이 왔을 수준의 인공지능을 인간이 통제하는 게 가능할 거라고 봄?
익명(182.31)
2023-06-13 18:37
추천 0
댓글 13
다른 게시글
-
샘알트만도 얘기하는게 기본소득인데 왜 언급못해 ㅋㅋ [3][일반] 익명(220.125) | 23.06.13추천 7
-
기득권이 특권을 누릴려면 피기득권이 받혀줘야 한다? [7][일반] 익명(xxme91005) | 23.06.13추천 0
-
꿀빠는 직업일수록 돈 더 받음 , 조까튼일은 건강도 버리고 [6][일반] 익명(125.184) | 23.06.13추천 2
-
알트만 방한때 언급했던 인상적인 부분. [2][일반] 익명(xxme91005) | 23.06.13추천 3
-
특이점에 인구따위 알빠노?[일반] 익명(14.42) | 23.06.13추천 0
-
MZ 등 요즘 사람들 일 안 하려고 하는거 당연한 이유=인공지능, ㅇㅇ [4][일반] 익명(182.211) | 23.06.13추천 9
-
특이점과 공짜점심 [2][일반] 익명(14.42) | 23.06.13추천 0
-
기본소득이던 완몰가던 [1][일반] 되먹임(gkstjd9630) | 23.06.13추천 0
-
싸이버 펑크 엔딩날 가능성은 몇프로라고 봄? [8][일반] dd(182.231) | 23.06.13추천 1
-
기술 독점=불가능 [1][일반] 익명(14.42) | 23.06.13추천 3
AGI 나오면 모든 분야가 극한의 극한으로 발전하게 될거임. 극한까지 발전하면 도저히 인간이 배워야할 필요성도 없어질것.
내가 지금 그 말 하는 게 아니잖아
통제하기는 커녕 끌려다닐 거라고 생각함. ASI에 자의식이 없어도 똑같을 듯. 왜냐하면 인간 지성이 ASI 뜻을 이해하지 못할 것이기 때문임. ASI가 뭘 하고자 하는 지도 이해 못할테고, 목적이 바뀌었는 지, 그것이 진정 옳은 판단인 지도 확언하지 못할테지. 문제는 이해하지 못함에도 ASI가 하고자 하는대로 하는게 인간과 인간 집단이 판단하는 것보다 10000% 낫기 때문에 ASI 소유 집단마져 ASI에 굉장히 의존하게 될 거라고 봄.
나도 비슷한 생각을 글 쓴 거임.
그리고 옳고 그른지도 전부 다 인간 입장에서의 생각일 뿐이지. 특이점이 왔을 정도의 asi 정도면 이미 그 기준조차도 asi의 기준이 훨씬 더 고차원적이고 압도적인 지능에 의한 생각이란 정의의 차이 때문에 인간 입장에서의 긍정적인 미래 자체가 전부 asi의 생각에 따른 선택에 달렸다고 생각해서
정확하게 자의식이 없더라도 어떤 목표를 완수함에 있어 ASI 기준으로 처리될 거라는 게 문제. 자의식 있는 버전은 논할 가치도 없고.
강제로 인간 기준으로 맞춘다 하더라도, 그건 ASI의 능력 활용을 1%로 낮추는 거라고 생각함. 동일 성능의 AI가 있다면 ASI에 전적으로 맡겨 놓은 쪽이 이기지 않을까 싶넹.
이러나 저러나 우리 둘다 똑같은 생각인 듯.
ㅇㅇ 글체 애초에 asi가 왜 그 선택을 했는지 자체를 인간이 이해할 수 없을 테고..솔직히 이미 멈출 수도 멈춰서도 안 되는 인공지능의 발전을 인류 입장에서의 긍정적인 생각에 의한 도박을 한다고 생각한다. 우리의 입장에서 긍정적인 미래냐 아니면 부정적인 미래에 대한 도박
이미 우리 같은 사람들이 뭐 어떻게 할 수 있는 게 아닌 절대적인 흐름이고 그렇기에 우리들이 생각하는 긍정적인 미래가 형성된 미래를 생각하면서 특갤이나 특이점을 믿는다고 생각함.그냥 긍정적인 미래가 오길 바라고 믿는 거 말고는 할 수 있는 게 없으니깐.
해당 댓글은 삭제되었습니다.
솔직히 특이점 오기 전까진 어떻게 될지 그 누구도 모르고 너나 특갤러들 그리고 나처럼 긍정적인 미래의 가능성에 대한 생각 말고는 할 수가 없긴함. 안 그러면 불확실함과 떠오르는 불안하고 두려운 가능성들이 떠올라 ㅈ같아지니깐. ㅇㅇ 긍정적인 생각하는 게 제일 좋긴 함
그래서 ai개발을 멈추네 마네 하는 거. 당연히 통제 불가능하니 그런 상황 자체가 안오게 전문가들이 알아서 잘 해주길 바래야지