강성태 영상 보다가 나무위키로 넘어갔는데,
비판 문서만 봐도 특이점이 온다는 논리에 비약이 많다는 게 팍 꽂히더라.
기술적 한계 때문에 특이점에 도달하지 못할 가능성도 있고.
설령 비생물학적 지능이 생물학적 지능을 초월한다고 해도, 계속해서 자가발전할 수 있다는 보장이 없잖아.
인공지능이 발전할수록 개발의 난이도도 올라가니, 기술 상승이 빠르냐 난이도가 상승이 빠르냐에 따라 뭐시기가 말한 SF적 특이점이 안 올 수도 있고.
문서 초반 읽을 때는 와 개재밌노 ㅋㅋ 하면서 읽다가 약간 우주 공포증처럼 막막해졌는데
비판 부분 읽으니까 바로 현실로 돌아왔따.
나무위키를 보고 거른다에서 웃고간다 ㅋㅋ
agi는 올 수 있겠다 생각 드는데, 커즈와일이 말한 sf적 특이점은 잘 공감이 안 된다는 거지. 일례로 의사들이 비만조차 그 기전을 제대로 모른다고 하는데, 사람마다 장내 미생물 환경이 다 달라서 정확한 진단이 어렵다는 거임. 그럼 커즈와일이 말한 생체적 특이점이 오려면 필요한 게 나노 로봇만 있는 게 아니라 인간 개인의 신체 환경을 정확히 다 파악해서 치료해야 한다는 건데... 인간의 몸이 얼마나 유기적인지를 생각해보면 그게 과연 가능할까 싶은 거지. 이런 두루뭉술한 생각을 나무위키 비판 문서가 잘 정리해주더라고.
왜 불가능함?
이런거 보면 기계가 바둑을 어캐둠? 하고 똑같다고 봄
꺼무보고 비판쪽이 맞다는 말 보고 해줄말이 없음 ㅋㅋ 거기 달린 반박기사 년도나 확인해라 ㅋㅋ
신체의 거의 모든 것을 파악해야 한다는 건 그만큼 정신나간 프로토스급 기술이 필요하다는 건데, 말했듯이 특이점이 온다 하더라도 그 인공지능의 발전 속도보다 기술의 진화 난이도가 더 어려우면 어캄? 둘중 하나일 거 아냐. 인공지능의 발전 속도가 더 빨라서 SF적 특이점이 온다. or 기술 개발의 난이도가 더 높아서 SF적 특이점은 오지 않는다. 그래서 나는 특이점이 반드시 온다는 게 아니라고 말한 거고.
왜 더 어려울거라 생각함?
더 어려울 거라고 생각하지 않았음. 거기까지 가면 공상의 영역이니까 둘 중 하나라고 생각한 거고, 만약 후자라면 특이점이 없을 수도 있다고 말하는 거지. 난 이게 되게 타당한 주장이라 생각했는데 생각보다 반응들이 격해서 좀 당황스럽네.
세상에 100% 라는건 없겠지만 핵전쟁이라도 터지지 않는 이상 힘들진 않을거라 생각함.
그게 너의 정답이야 계속 그렇게 믿어
아둔한 나를 위해 설득력 있는 뭔가를 제시해 준다면 고맙겠음.
아니 진짜로 넌 계속 그렇게 믿고 살아가다가 영향력을 무시하려 해도 무시할 수 없게 됐을 때, 그 때 다른 생각을 가지면 됨
https://gall.dcinside.com/mgallery/board/view/?id=thesingularity&no=375493&exception_mode=notice&page=1
갤
공지부터 처봤으면 좋을것 같아. 니가 꺼무위키 맹종하고싶으면 그렇게 하면됨
꺼무위키 맹종한다는 건 아니고... 특이점이 아직은 공상의 영역인 것 같아서 말해본 건데 많이 화났네. 암튼 시간 날 때마다 하나씩 읽어볼게.
ㅇㅇ 평생 그렇게 생각해라
잘 생각해봐 인류의 작은 두뇌로 이렇게 기술을 발전시켜 왔어, 그런데 그 두뇌의 사이즈와 연산속도를 엄청난 사이즈로 늘렸다고 쳐봐 그리고 그 두뇌가 쉬지않고 24시간 일해 그럼 기술의 발전 속도가 얼마나 빨라지겠음? 그게 특이점
그렇게 되려면 기술 발전이 무한하다는 가정이 있어야 함. 근데 이 세상에서 구현할 수 있는 기술이 무한하지 않으면 어떡함? 빛의 속도가 제한되어 있는 것처럼, 우주에 통용되는 법칙 때문에 기술 발전이 한계에 부딪쳤고, 인공지능의 발달 속도가 기술 개발 난이도를 뚫지 못한다면? 이것도 가정이지만, 네가 한 것도 가정임. 그래서 나는 특이점은 알 수 없는 영역이라고 생각한 거야.
물리 법칙의 한계 찍으려면 진짜 한~~~~~참 남았다 오히려 물리 법칙이 한계에 대해 말해주는 게 에릭 드렉슬러나 엘리저 유드코프스키같은 특이점주의자들을 만든거임
기술적 한계가 존재한다 vs 안 존재한다. 이건 논쟁의 영역이 아니라 그냥 믿음의 영역임. 수학으로 치면 공리. 철학으로 치면 공준 같은 거. 전자를 믿는다면 그냥 특갤에 안 오면 됨
내가 기1독교 갤러리에서 예1수 있는 거 맞음? 한 거구나... 설명해줘서 감사.
ㅇㅇ 서로 완전히 증명불가능한 주장이라 그냥 믿느냐 마느냐 문제임
이건 믿음의 영역이야 Ai가 발전하다가 갑자기 진짜 예상도 못한 이유로 발전이 멈출수도 있고 안 그럴수도 있고
윗댓이 잘 설명해줬네 여기는 과학주의갤이지만 동시에 신앙갤임
나무위키 정말 정말 정말 오래된 내용이니까 좀 거르셈. 작년에 GPT4 나오고 탑급 전문가들 예측이 다 긍정적인 방향으로 바뀌었는데, 그런 내용은 아예 업데이트가 안된 진짜 옛날옛적 얘기임
for real - dc App