가장 주류인 근거가 초지능과 인간 지능차이가 너무 커져 통제할 수 없다는건데
머스크 주장처럼 BCI를 통해 인간의 지능을 높여 초지능을 통제하는 건 어떰?
머스크 주장에 대한 반박으로 ai의 자가개선으로 오르는 지능이 BCI로 오르는 지능보다 훨씬 더 빠르기에 불가능하다는 의견도 있었는데
인공지능의 자가개선에 on/off 기능 달면 되지않나?
그래도 외부적 요인때문에 빠르게 초지능이 될수도 있지만 초지능을 통제할수 있는 가능성이 적진 않다고 보는데
나는 2가지 미래가능성을 생각하는데
1. 빠르게 초지능되서 통제가 불가능하고 원숭이손 결말
2. agi에서 신중히 개발해서 인간이 통제할수 있는 초지능개발
머스크 주장처럼 BCI를 통해 인간의 지능을 높여 초지능을 통제하는 건 어떰?
머스크 주장에 대한 반박으로 ai의 자가개선으로 오르는 지능이 BCI로 오르는 지능보다 훨씬 더 빠르기에 불가능하다는 의견도 있었는데
인공지능의 자가개선에 on/off 기능 달면 되지않나?
그래도 외부적 요인때문에 빠르게 초지능이 될수도 있지만 초지능을 통제할수 있는 가능성이 적진 않다고 보는데
나는 2가지 미래가능성을 생각하는데
1. 빠르게 초지능되서 통제가 불가능하고 원숭이손 결말
2. agi에서 신중히 개발해서 인간이 통제할수 있는 초지능개발
그냥 초지능이 자율행동형이 아니라 명령수행형이면 얼마든지 통제 됨
초지능이 말이 초지능이지 실질적으로 초 인공지능이잖아
그런식으로 초지능을 만들수 있으면 그렇게 만들듯
근디 이것과 별개로 레커 예측처럼 인간과 기계는 융합될것 같음
그런데 그런 식으로 제어하려고 하면 경쟁자한테 밀릴 듯.
나도 1의 미래가 온다면 무한경쟁으로 올 가능성이 높을거라 생각함 근데 기득권들은 최대한 1의 미래가 안오게 할려고 막지 않을까 생각도 듬
개인적으로 본문은 현실성 없지 않나 생각함. 지금 단계의 ai도 블랙박스에 어떻게 작동하는 지 이해 못하는 취급인데 여기서 더 나아가면 어떻게 되겠음? 기술에 대한 이해를 쌓으려 해도 시간이 너무 오래 걸림. BCI 같은 기술로 인간 지능 증강하기 이전에 AGI나 ASI가 먼저 도래해서, 개네들이 만든 제품 상용화 되는게 먼저 되지 않을까 싶다. 본문이 가능한 여건이 되려면 먼저 ASI에 의한 시스템이나 기술 발달 선행이 되어야 할 가능성이 높음.
나도 AGI전에 BCI는 터무니없다고 생각하고 AGI이후에 BCI개발해서 천천히 개발해 통제가능한 ASI 만들거라 봄