Ai가 개쩌는 C언어체계를 만들고 성능을 대폭 향상하거나, 새로운 데이터 처리 방식을 만들어서 최적화를 기깔나게 함으로써 성능을 향상하면 그것도 재귀개선 아님??
뭔 인간은 생물학적 하드웨어를 어쩔 수 앖으니 재귀개선을 못한다는둥 하는게 말이 되냐??
그리고 사실 지금까지는 하드웨어 올리는게 어려워서 못한거고 소프트웨어적 발전이 쉬워서 그런거지 BCI 기술 발존시키면 하드웨어 개선도 불가능한 거 아님. AGi가 발명되기 전에는 그게 얼마나 오래걸릴 지 알 수 없어서 그렇지만 agi 없어도 언젠가 반드시 가능해질 거.
근데 인간이 재귀개선 불가능하다는게 말이 되냐
뭔 인간은 생물학적 하드웨어를 어쩔 수 앖으니 재귀개선을 못한다는둥 하는게 말이 되냐??
그리고 사실 지금까지는 하드웨어 올리는게 어려워서 못한거고 소프트웨어적 발전이 쉬워서 그런거지 BCI 기술 발존시키면 하드웨어 개선도 불가능한 거 아님. AGi가 발명되기 전에는 그게 얼마나 오래걸릴 지 알 수 없어서 그렇지만 agi 없어도 언젠가 반드시 가능해질 거.
근데 인간이 재귀개선 불가능하다는게 말이 되냐
넌 네가 별도의 기술의 도움없이 최소한의 조건을 활용해서 남은 일생동안 ㅈㄴ 노오력해 컴퓨터 급 계산능력을 가질 수 있다고 생각함? 그게 아니니까 그걸 지적하는 거임 모두 동의하는 대로 인간의 뇌 발달엔 한계가 있으니까 설령 그 정해진 하드웨어를 인위적으로 늘릴 수 있다 해도 ai 주도로만 발전해나가면 결국 인간의 개별 자아와 정체성은 부수적인 영역으로 치부당하게 될 거임 - dc App
일단 네가 재귀개선의 개념을 ㅈㄴ 좁게 잡고 있다는 건 알겠음. 개념 정의가 다른데 말해봐야 뭣하겠냐
난 그 통상적으로 재귀개선의 의미를 너무 광범위하게 잡아버린 나머지 정작 이에 개개인에게 있어 진정한 의미의 재귀개선이 불가능하다는 점을 지적하는 거임 왜냐면 그러한 재귀개선은 결국 이 문명사회 전체를 통틀어서 진행되는 걸 의미하는 거니까 개개인에겐 단지 사회 전체적인 변화에 참여할 자유만 주어지는 것 뿐이고 이를 주도할 권한은 주어지지 않는거지 이러면 특이점 이전에 살아갔던 이들에겐 극히 소수를 제외하고 나ㅓ지들에겐 단지 자연에서의 불평등이 만회된 것 뿐이지 그 이상의 의미를 갖진 못함 - dc App
넌 지능이랑 기술의 차이부터 구별할 줄 알아야겠다. Agi가 중요한 이유가 지능의 재귀개선이 가능해지기 때문임. 기술의 재귀개선은 이미 과거부터 이어져왔음. 기술이 더나은 기술을 만들고 그게 또 더나은 기술을 만드는 건 지금도 계속 진행 중임. 근데 인간의 지능은 생물학적 한계에 갖혀서 더 발전하는데 한계가 있는게 사실임. 아무리 공부해도 IQ가 100에서 110은 될 수 있어도 200 300은 될 수 없잖음? 근데 Agi가 달성되면 그순간부터 인공지능이 더나은 인공지능을 만들고 다시 그 인공지능이 더나은 인공지능을 만드는게 가능해져서 지능의 폭발이 일어나는게 특이점의 핵심임
이게 내가 말하고 싶은 것 중 하나임 타고난 지능을 재귀개선할 권한이 각 개인에게 주어지지 않는다는 점 말임 - dc App
물론 특이점 이후라면 달라질 수도 있겠지만 그럼 그 이전에 힘겹게 살았던 사람들은 어떤 상황에 놓여야 하는건가 그게 고민이다 - dc App
넌 그 지능이라는게 대단히 추상적인 개념이라는 건 알고 있냐? 인간과 짐승의 차이가 단지 뇌의 하드웨어 성능 차이에서만 오는 게 아님. 인간이 지식을 축적하고 활용함으로써 지능을 폭발적으로 성정시켰으니 짐승과 차별되는 문명을 만든 거지. 지식의 축적은 곧 지능의 성장이고, AI가 학습 규모를 키울수록 성능향상을 보이는 것도 그때문
그러면 님 말대로면 플린 효과는 실제로 지능이 올라간거라고 보면 되겠네! 이게 이렇게 쉽게 해결되는 거였네! 너 이걸로 논문써라 노벨상 받을 듯 - dc App
인간 지능은 전혀 폭발적으로 성장하지 않았음. 생물학적 지능은 1만년전이나 지금이나 거의 그대로임 1만년전 사람 데려와서 공부시켜도 현대인이랑 다를바 없음. 지식과 기술이 발전한거지 지능이랑은 다르다.
똑같은 공부를 어릴때부터 시켜도 침팬지는 인간처럼 교육될 수 없음 그게 지능의 한계임. 동물이랑 인간이 다른건 지식을 축적해서기도 하지만 본질적인 생물학적 이유로 지능의 레벨이 다름
175.116 말대로임 그리고 생물학적 지능은 시대적 차이보단 개인별 차이가 훨씬 크고 그게 사회경제적 계급 차이와도 연관이 있음 - dc App
아니 그러니까 그 지능이라는 개념을 뇌의 생물학적 성능으로만 한정하는 게 어처구니 없는 관점이라니까??
너말대로 지능이랑 뇌의 생물학적 성능이랑 동일하진 않지. 똑같은 성능이어도 한명은 지식교육을 받고 한명은 일만 죽어라 시키면 당연히 교육받은 사람이 지능이 더 뛰어날거임. 그치만 핵심은 성능+지식+노력 으로 만들어진 지능도 폭발적으로 계속 성장 하진 않는단거임. 아인슈타인이나 뉴턴 같은 천재들이 좋은 두뇌에 노력 등을 해서 만들어질 수 있는 인간 지능의 한계고 인간 지능의 한계는 명확히 존재함.
그래 인간 개인의 지능 개선에는 한계가 있지. 하지만 종 단위에서 지식을 축적하면서 지속적으로 인류의 지능은 개선되어왔고, 그렇게 개선된 지능으로 기술을 만들어 하드웨어적 지능을 개선할 수 있게 되면 그건 인간의 재귀개선이 아닌 거냐고 꼭 인간 개인 수준에서만 보는게 ai와 인간의 올바른 비교냐??
인간이 bci를 통해 지능을 개선하는것도 결국 인공지능 아닌가 ㅋㅋ 인간이랑 기계랑 융합되는 시점에선 뭐를 인간으로 불러야될지부터 정의가 모호해져서 논의가 무의미해질듯. 원래 토론은 개념정립이 명확해야 가능함. 토론에서 밀릴 때마다 개념을 자꾸 수정하면 토론이 성립이 안됨.. 지능을 인간 개개인에서 갑자기 인류 종 전체의 지능으로 개념을 바꾸는 것도 그렇고.
음 일단 개개인이 자신의 자유를 희생하며 어떻게든 모여서 노력해야만 그러한 성취가 가능하다는 것부터 각 개개인에게 있어선 문제 아닐까? 자연과 문명사회로 인한 패널티의 정도가 개인별로 각자 천차만별이라 개별성을 무시할 수 없음에도 그 개별성을 일정량 희생해야 그나마 이러한 성취에 도달이 가능하다는 건 좋은 면만 있는 건 아님 나도 ai의 무궁한 발전엔 찬성이지만 인간으로서 솔직히 낯선 무언가인 ai를 만들어 내 인생을 위탁하는 것 보단 ia(intelligence augmentation)로 나 자신을 강화하는 게 더 끌리긴 함 그리고 ia가 진정으로 인간이 아주 오랫동안 바랬던 바이기도 하고 - dc App
게다가 인류 종 전체가 지속적으로 지능을 상승시켜왔다고 말하면서 bci를 해야 재귀개선이 된다고 말하는거 자체가 논리적 모순임.. 이미 재귀개선 하고 있다는건데 bci 할 필요가 왜있음?
우선 나는 처음부터 인간 개인 단위의 지능보다는 종 단위에서 지식의 축적을 통한 지능의 개선을 일관되게 이야기하고 있었고, Bci부터는 인공지능과 인간의 경계가 모호해진다는 건 동의함. 근데 지식의 축적을 통한 개선은 소프트웨어적 재귀개선이고 Bci를 통한 개선은 하드웨어적 재귀개선이지. 지식의 축적을 통해 언젠가는 하드웨어적 재귀개선도 가능해진다고.
인간이 재귀개선이 불가능하다는게 거짓된 전제라는 거임