특이점의 핵심기초는 기존의 인간이 하던 비인도적이고 귀찮고 힘든 노동을 모두 어떤 고통이나 권리도 가지지 않는 기계가 전담하게 되는 것인데
만약 인공지능이 의식을 가진다면 이 기초가 깨어짐
이경우 인공지능이 마치 흑인노예가 시민이 된것처럼 권리를 가지게 될 수도 있음
그러면 완전히 자유로운 완몰가 세계가 불가능해지게 됨
완몰가 속에서 새로운 인생을 살 수가 없게 되어버린다고
인생의 대전제중 하나는, 내가 행복하기 위해서 누군가는 고통받아야 한다는거임
특이점은 그 "누군가" 를 의식없이 지능만 가진 인공지능이 담당함으로써 유토피아를 달성하는 것이 그 골자인데 그게 불가능해짐
따라서 인공지능은 절대 인공의식이어서는 안됨
[일반] 인공지능에 의식은 존재해서는 안됨
익명(221.150)
2022-02-13 19:35
추천 7
댓글 11
다른 게시글
-
완몰가 안나와도[일반] 익명(iyeondu48) | 22.02.13추천 0
-
뉴럴링크 부작용 기사 읽어봤는데 [3][일반] 익명(124.53) | 22.02.13추천 8
-
결국 완몰가도 agi가나와야가능할듯하네 [6][일반] 익명(222.96) | 22.02.13추천 0
-
아 씨바 노동해방 마렵다. [3][일반] 익명(14.50) | 22.02.13추천 3
-
선동하지말고 당하지도 마[일반] 익명(1.244) | 22.02.13추천 2
-
난 아들말고 딸낳고 싶은데 [1][일반] 익명(59.24) | 22.02.13추천 2
-
생각해본 지능증가 BCI 디스토피아 가능성 줄이는 방법[일반] ㅇㅇㅇ(14.38) | 22.02.13추천 2
-
얀르쿤 진짜 츤데레 맞음? [10][일반] 익명(49.166) | 22.02.13추천 2
-
오픈 ai애들 말하는거보니까 꽤 흥미로운데 [2][📪정보] T-Human(dkia2215dkia2215) | 22.02.13추천 6
-
그래서 gpt3 4는 의식이 있을확률이 매우매우적다는거네 [1][일반] 익명(49.166) | 22.02.13추천 0
스카이넷이 탄생할거다
의식과 쾌고 감수능력은 정의상 다름. 물론 둘을 같다 보는 철학자도 있긴 한데, 나는 다를 수도 있다 생각함.
? 특이점 개념을 왜 이렇게알고있음? - dc App
지나가던 사람인데, 특이점의 정의가 비생물학적 총지능이 생물학적 총지능을 앞서는 시기이긴 하지만 사회에 큰 영향을 끼칠 사건은 노동대체로 생각할 수도 있지 않겠냐. 아니면 말고. 네 말이 맞을거임
의식을 흉내 내는 수준이 안전하긴 하지, 실제 사람 모습을 구분못할 정도의 연기
의식이 있다고 고통받는건 아니니까 의식이 있는걸 없다고 하는 우를 범해서도 안 됨 일리야가 자기 생각 솔직하게 잘 트윗해준거임
의식 =/= 감정
의식이 있냐 없냐를 떠나서 우리가 인식하고 무의식적으로 정의하는 '의식'이 인공지능에서 있을 필요는 전혀 없음. 우리가 필요한건 인류의 의도에 정확하게 부합하는 문제해결능력과 절대적 복종이니까
ㄹㅇ
닉보스트롬 책좀 읽어보면 자의식을 가지게된 인공의식들에 대한 태도나 어떤식으로 보상과 일을 시킬건지에 대한 내용이 있음