그저께 초지능 통제 문제도 봤듯이
무언가 이상하다. 서로 초지능에 대한 생각이 다르다.
초지능 인식 문제
1. 초지능은 프로그램따위가 아닌 어떤 '신'적 존재이다.
2. 초지능은 슈퍼컴퓨터(양자컴퓨터)로 이루어진 소프트웨어(프로그램)일 뿐이다.
1 or 2
초지능 통제 문제
1. 초지능은 인간 마음대로 명령하고 통제 가능하다.(통제 실수가 있을지 모르지만 기본적으로)
2. 초지능은 통제 불가능한 절대적인 존재다 부탁하는 정도만 가능할지도 모른다.
1 or 2
초지능 개발 주체 여부
1. 초지능은 결국 소수의 연구원 인간들이 개발한 셈이다.(초지능을 만들어낸 강인공지능을 인간이 만들었으므로)
2. 초지능은 강인공지능의 재귀개선에 의해 생성된다. 인간이 개발했다고 볼 수 없다.
1 or 2
초지능 문제 해결 가능성
1. 초지능은 모든 문제를 해결가능하다.(또는 해결가능한지 불가능한지 답을 내놓을 수 있다.)
2. 초지능은 일부 문제에 대해서 모르거나 해결 불가능하다.
1 or 2
꼭 이유와 함께
걍 토론이고 뭐고 대화가안된다. 다른생각 가진애들이 많다.
해당 댓글은 삭제되었습니다.
너도 1.239)랑 다른생각 가지는거구만
이유는 없나요?
특이점이여) 너수준 그렇게 안봤는데 개실망
해당 댓글은 삭제되었습니다.
이유는 없나요?
모두 2라고 생각함. 초지능은 AGI 이후 '지능폭발'로 불릴 만한 급격한 지능발전의 산물이고, 그 속도는 인간의 신경전달 속도의 수억배이며 복잡성 역시도 인간의 자연적 두뇌로는 이해불가하다. 또한 이미 AGI 개발 이전 시점에 5G가 보편화되고 각종 기기와 센서가 방대하게 연결된 초연결 사회가 될 것이기 때문에 초지능은 통제 불가라고 생각한다.
난 초지능을 글자 그대로 신적이거나 절대적이라고 생각하지는 않는다. 자아니 의식이니 하는 게 있을 수도 없을 수도 있고, 난 그게 중요하지도 않다고 본다. 핵심은 지능이지 의식이나 존재가 아니라고 생각한다. 지금도 반도체 전문가조차 제조되는 상용 반도체의 전체를 다 알지 못한다. 수차례나 기하급수적으로 개선되는 하드웨어와 소프트웨어를 인간은 설령 어느정도 지능증강을 했다 할지라도 초지능과 융합되는 수준이 아닌 한 다 파악하지 못할거라고 본다.
딴건이해된다. 그런데 초지능이 왜 통제 불가능하다고 생각하는거야? 궁금하다
지능이란 건 단지 시스템의 크기나 속도만이 아니라 그 안에서 소통되는 정보의 양, 속도, 질을 포함하는 개념이라고 나는 생각한다. 거대한 컴퓨터 시스템을 우리는 관리할 수는 있겠지만 그건 초지능이 아니다. 초지능은 인류가 과거부터 현재까지 만들고 처리하는 정보보다 압도적인 수준의 정보를 처리하는 시스템이고 인간은 그 극히 일부를 일순간 밖에 이해 못한다.
예를 들어 초지능이 더 나은 하드웨어를 만들어 생산을 요청한다고 하고 생산은 인간의 허가를 받아 이루어진다고 하자. 그 하드웨어를 인간이 완벽히 이해하고 검증하는데는 연구시간이 걸린다. 그러나 매번 새로운 게 나올때마다 인간이 검증하면 발전은 엄청나게 느려진다. 그럼 초지능이 나온 의미가 없다. 초지능을 통제한다는 거 자체가 초지능을 초지능이 아니게 한다.
이게 관점의차이구나. 초지능을 윈도우처럼 하나의 시스템이라고 보는거네. 난 단순한 알파고같은 프로그램이라고 생각해서. 무슨말인지 알겠다. 이제 이해가 된다. 정말 똑똑하다
세번째 질문은 둘 다 똑같은 말을 돌려한거 아님? 22X1 - dc App
1번과 2번이 동시에 성립하지 못할 이유가 없음
초지능 인식문제에서
인간지능을 한참 초월한 초지능을 지금부터 예상해 보는 건 의미없어 보이는데
초지능 개발루트에 따라 다르지.
1번문제. 마인드 업로딩이나 브레인-컴퓨터 연결 등, 자연에서 추출해서 초지능이 됐으면 1번:신적존재. AGI에서 초지능이 됐으면 2번:프로그램이다. 다만 예외는 있을 수 있다. 자연에서 추출됐어도, 컴퓨터로 들어가면서 의식과 감각질 등을 잃었으면 2번이 될수도 있고, AGI에서 초지능이 됐어도 의식이나 감각질을 스스로 개발해서 자연수준을 따라잡으면 1번이 될수도 있는거다.
2번문제. 성격에 따라 다르다. 성격이 착하고 로봇스러우면 1번. 시키는건 이행한다. 근데 성격이 '인간'스러우면 2번. 나노머신,로봇,드론,인공위성의 통제권을 가지고 인간을 위협하면 인간이 초지능을 통제할 수 없다.
3번 질문은, 왠만해선 2번:인간이 만든게 아님이다. 근데 어쩌면, 강인공지능이 인간의 지능을 강화시키고, 인간이 강인공지능의 지능을 강화시키고 하는 선순환을 통해 초지능이 될수도 있다. 그러면 드물게도 1번도 될 수 있는것.
4번질문은 일단 1번이다. 인간 수준의 질문은 뭐가됐든 다 풀어낼 수 있다. 아주 난해한 질문이라도 시간문제일뿐. 100년에서 1억년 정도 연산하면 결국 답을 내던지, 답이 없다는 것을 증명해낼꺼다. 근데 2번일수도 있다. 만약 초지능이 초지능한테 질문하면? 그건 답을 못낼수도 있다. 왜냐면 그건 초지능한테도 너무 어렵기 때문이다.
결론: 아직 정해진 것은 아무것도 없다. 다른 생각을 가진게 아니고 가능성이 너무 많은거다.