[일반] 인간주도로 지능의 재귀개선이 불가능하다는 게 이해 안되면

[익명(61.98)]

간단하게 지적장애인들이 자기 장애의 한계를 극복하여 자기 자신의 지능을 재귀개선해 일반인이나 영재, 천재 수준의 지능을 후천적으로 갖는 사례가 있는지 예시를 찾아보면 알 수 있음

있으면 그게 휴리스틱(heuristic)한거지

- dc official App

[익명(27.100)]

무식한 사람이 계속 바보 같은 소리 하는 걸로 밖에 안 들린다.

[익명(61.98)]

그러면 그 유식한 사람이 함 반박이나 해보쇼 외부의 도움 없이 저 한계를 어떻게 넘어설건지 - dc App

[익명(27.100)]

외부의 도움 없이도 개소리잖아. 인간이 다른 동물과 차별화 되는 게 외부를 다루는 힘인데 무슨. 계산력이 부족하면 컴퓨터를 만들어서 쓰는 거고. 지능이 부족하면 인공지능을 만들어서 쓰면 되는 거지.

[익명(27.100)]

인간이 언제 공룡만큼 커진적이 있나? 무슨 태생적인 한계를 극복하는 걸 재귀개선으로 착각하고 있나.

[익명(61.98)]

지능이 부족하면 인공지능을 만들어 쓰면 됨 <- 그 인공지능과 대화할 때도 ai와 인간 각자의 지능 수준에 따라 질문, 답변 퀄리티의 차이가 있는데 그게 그렇게 대수롭게 넘어갈 문제인가? 그게 당사자가 될 거라는 생각은 안함? 인공지능을 쓰는 것과 직접 뇌로 생각하는 것이 접근의 용이성 차이가 상당히 심한건 모르고 하는 소리임? 간단히 말하자면 뇌에서 오감으로부터 정보를 직접 처리하는 것과 이미 처리되고 있는 그 정보를 인공지능을 통해 인지적 결점을 매꾸는 차이라고 보면 된다 뉴럴링크와 같은 기술이 더 발전하면 후자가 더 빠르고 정확하게 정보를 처리할 수 있는 부분이 있어도 모든 영역에서 그걸 커버할 수 있다는 건 이와는 다른 문제임 - dc App

[익명(27.100)]

재귀개선이 개인의 영역이라고 착각하는 것도 마음에 안 들고 하드웨어나 신인류를 만드는 설계도 또한 소프트웨어의 영역이란 것을 모르는 것도 마음에 안 들어. 뉴럴링크니 싸이보그니 모두 지식의 한계가 확장함에 따라 태어나는 지식의 영역이며, 재귀개선은 지식의 한계를 계속 높여나가는 것이다.

[익명(27.100)]

너는 부정해도 각 대학에서 교수들이 연구를 지속하는 것만 해도 이미 인류의 재귀개선이며, 그렇게 대학교 교수들이 1000년 10000년 연구를 한다면 AGI가 없어도 인류는 꾸준히 성장한다는 걸 왜 몰라.

[익명(61.98)]

너 말대로면 그 지식의 한계는 결국 인간이 뇌와 유전자에 내제하고 있는 생물학적 지능의 한계로부터 결정되는 것임 단지 그게 여타 다른 생물과 달리 더 확장된 신피질을 통해 그걸 유용하게 사용할 수 있는 것 능력을 가지고 있는 것 뿐이지 니 말대로 인간이 그대로인 체 계속 외부 도움을 통해 지식을 확장하는 것에 그친다면 이는 단지 인간이 자기 잠재력을 표출하는 것을 다른 표현으로 나타낸 것일 뿐 자기 지능을 확장하는 것과는 엄연히 다른 문제가 됨 이러한 한계내에서 지식을 규정하는 건 인간이 갖는 인지적 한계 너머에 지식을 아는 데 있어서도 큰 장애물이 될 거다 인공지능이 백날 말해줘야 인간이 이해 못하면 무슨 소용이겠음 - dc App

[익명(61.98)]

또 외부의 도움 없이 개선하는 게 개소리라 일축하기만 하면 안되는 건 그 닫힌 시스템 내에서 그 정도가 어디까지에 따라 그런 재귀개선의 가능성이 결정되는 건지 분명하지 않기 때문임 그 자명한 예로 지금 우리가 있는 인류 문명이 있는데 우린 지능의 원리는 고사하고 애초에 이 문명 발전이 어떻게 가능했는지에 대해선 아직 명쾌하게 설명할 방법이 없음 물론 아직 재귀개선에 관한 실마리가 완전히 풀린 건 아니라 속단하긴 어려울 수 있지만 단지 이걸 '당연한거니까' 라며 막연히 넘어가기엔 인간의 경험적 직관과는 다소 괴리가 있는 것 또한 사실이다 - dc App

[익명(61.98)]

만약 이러한 특성을 좀 더 효율적으로 사용할 수 있게 된다면 앞서 이 글 본문에 쓴 기적같은 재귀개선도 불가능하다며 단언할 순 없겠지 그게 나로선 미스테리인거고 - dc App

[익명(27.100)]

인간의 두뇌의 한계를 가늠해서 어쩌려는 거냐? 인간의 두뇌를 확장하는 도구를 외부에 만들어서 쓰면 되는 거 아니냐? 외부를 왜 자꾸 닫으려는 지 모르겠다. 이미 인간은 지능을 만들 수 있는 영역에 들어섰다. 외부에 지능을 만들 수 있는데 어째서 내부의 지능에 그렇게 목을 매는지 모르겠다.

[익명(27.100)]

앞으로는 신인류를 설계하고 자연에서 얻어진 지능과 신체를 뛰어넘는 새로운 창조를 계속 할 텐데. 현재와 과거에 얽매이려는 것이냐? 아니면 자연 보존이라도 할려고?

[익명(27.100)]

AGI와 ASI를 밴한다면 인간의 내부 두뇌를 한계까지 끌어다 쓰는 방향으로 발전하겠지만, 그럴 가능성은 없다. ASI가 이 세상의 수준을 급격하게 끌어올린다면, 인간의 내부의 힘에만 의존하는 것은 옳지 않다.

[익명(27.100)]

어째튼 재귀개선은 지식의 한계의 확장을 반복하는 것을 의미한다. 그 과정에서 새로운 하드웨어가 나오겠지만 그 또한 지식의 영역임을 알아주었으면 한다.

[익명(61.98)]

내 주관적 소원에 입각하여 좀 더 부분적으로 정리해서 말해보자면 외부로 통하는 문을 닫는다기 보단, 그러니까 어떨 땐 되고 또 어떨 땐 안되는, 그런 지멋대로인 지능의 재귀개선 원리를 온전히 납득하고 싶거든 단지 스케일의 차이라던지 정보의 노출 정도를 통해 이를 이해하는 건 뭔가 퍼즐 조각 몇 군데가 빠진 듯히 보이니까 그리고 인간에게 있어서도 매우 불합리해보이는 것 또한 사실이고 물론 인간이 특별하다느니 그런 도그마를 추종 하는 건 아님 내가 지적하는 문제는 그럼 특이점 이전에 살아왔던 인간들은 무엇으로 자신들이 겪어왔던 불합리한 상황을 이해해야 하고 이에 대해 어떻게 해야 하느냐는 거임 분명 그들은 그걸 삶으로서 경험해봤는데 말임 그냥 특이점을 위한 재료라고 봐야하는 건가? - dc App

[익명(121.185)]

인간이 재귀개선이 가능하면 ai가 필요없지

[익명(61.98)]