[📪정보] 특이점 용어) 빠른 도약, 느린 도약이란 무엇일까?

[익명(hangulnick0)]

1줄 요약: AGI(인공 일반 지능) -> ASI(초지능) 까지 걸리는 시간을 의미함

...

...

즉 이 장에서 하고자 하는 질문은 인간 수준의 지능을 가진 기계가 개발된다면, 그때로부터 기계가 초지능을 획득하는 데에는 시간이 얼마나 걸릴 것인가이다.

...

...

느린 도약

느린 도약이란 수십 년이나 수백 년이라는 상당히 긴 시간을 두고 도약이 일어나는 것을 말한다.

느린 도약에서는 인간의 정치적 과정이 변화에 충분히 적응하고 반응할 만한 아주 적절한 시간적 여유가 있을 것이다. 예를 들면, 정부는 이와 관련하여 여러 조치들을 순차적으로 적용하고 시험해볼 수 있을 것이다. 새로운 분야의 전문가들을 양성하고 자격을 부여할 수 있을 것이다. 이렇듯 느린 도약 시나리오에서는, 도약이 시작되는 여명기의 새로운 시각을 바탕으로 하여 더 적절한 해결책들이 만들어질 것이므로, 느린 도약이 시작되기 전에 준비된 것들 대부분은 쓸모없는 것이 될 것이다.

...

...

빠른 도약

빠른 도약은 몇 분, 몇 시간, 또는 며칠이라는 짧은 시간 동안에 도약이 나타나는 것이다.

이 시나리오에서 우리는 기계 초지능의 도약에 대해서 신중히 생각해볼 만한 기회가 거의 없을 것이다. 알아차리기도 전에 하던 게임에서 이미 패배한 상황일 수 있는 것이다. 이 경우, 인류의 운명은 미리 생각해두었던 대비책들에만 전적으로 의존하게 될 것이다. 어쩌면 인류가 간단하게나마 대응행동을 취할 수도 있을 것이다. 그렇다고 해도 그러한 대응행동은 마치 "핵 가방의 뚜껑을 여는" 행동 정도에 불과할 것이다.

...

...

중간 속도의 도약

중간 속도의 도약이란 몇 달이나 몇 년 정도의 시간을 두고 도약이 일어나는 것을 말한다.

중간 속도의 도약 시나리오에서는 인류가 기계 초지능에 대해서 어느 정도의 대응을 할 만한 시간은 있지만, 상황을 분석하고, 여러 조치들을 시험해보거나, 복잡한 조정 문제들을 해결할 만한 시간은 없다. 새로운 시스템을 개발하거나 도입할 만한 시간은 없으므로, 현존하는 시스템으로 새로운 도전 상황에 대응해야 할 것이다.

...

...

느린 도약 상황에서는 초지능의 발전 정도가 대중에게 알려지기에 충분한 시간이 있을 것이다. 반면 중간 속도의 도약에서는 초지능의 개발 정도가 비밀에 부쳐질 가능성도 있다. 상업적 민간단체, 소규모의 학술단체, 음지의 해커 단체들에 의한 초지능 개발 노력도 은밀하게 진행될 수 있을 것이다. 이들 단체가 속해 있는 국가는 초지능으로의 도약이 가능할 것 같은 개발활동을 국유화하거나 또는 아예 중단시켜버리는 선택을 할 수 있다. 빠른 도약에서는 너무나 빠르게 상황이 진행되어서 대응을 할 만한 시간적 여유가 없을 것이다. 그러나 빠른 도약에서도 어떤 특정한 프로젝트가 도약에 가까워지고 있다고 생각될 경우, 외부자가 도약이 시작되기 전에 개입하는 것이 가능할 수도 있다.

...

...

중간 속도의 도약에서는 초지능의 개발에 따른 변화에서 더 유리한 위치를 차지하려는 다양한 사람들이나 단체들의 자리다툼으로 인해서 경제적, 사회적, 그리고 지정학적 지각변동이 일어날 수 있다. 이런 대변동이 일어날 경우, 조화로운 대응이 어려울 것이며, 오히려 평온한 상태에서는 나올 수 없는 극단적인 해결책들이 나타날 수 도 있다. 예를 들면, 중간 속도의 도약 시나리오 에서는 디지털 지성체가 충분한 역량을 갖추고 가격 경쟁력까지 가져서, 몇 년에 걸쳐서 서서히 노동시장의 큰 부분을 장악하는 것을 생각해볼 수 있다. 이 경우 해고된 노동자들은 시위를 통해서 실업수당을 증대시키고 최저임글을 모든 인간 시민들에게 보장하며, 디지털 노동자를 고용하는 사용자들에게 특별한 세금을 부과하거나 최저임금 조건을 준수하게 하는 등의 불이익을 주도록 정부를 압박할 것이라고 생각할 수 있다. 중간 속도의 도약에서만이 아니라 느린 도약에서도 유사한 문제들이 나타날 수 있다.

...

...

일부 독자들에게는 위의 세 가지 시나리오들 중에서 느린 도약이 가장 가능성이 높아 보이고, 중간 속도의 도약은 비교적 개연성이 떨어져 보이며, 마지막으로 빠른 도약은 전혀 가능해 보이지 않을 수도 있다. 단지 한두 시간 만에 세계가 급진적으로 탈바꿈하고, 인류가 사유(思惟)하는 존재의 정점 자리에서 밀려나게 되는 것이 비현실적인 공상처럼 느껴질 수도 있다. 이 정도의 엄청난 변화는 인간 역사에서 한번도 일어난 적이 없으며, 그와 가장 유사한 상황-농업혁명과 산업혁명-도 훨씬 긴 시간에 걸쳐서 일어났었기 때문이다. 따라서 이런 도약들이 상정하는 변화의 속도나 규모의 측면에서 볼 때, 빠른 도약이나 중간 속도의 도약에 의해서 기계 초지능으로의 이행이 일어날 가능성은 아예 없다. 그런 상황은 신화나 종.교적 상황을 제외하고는 선례를 찾아볼 수가 없기 때문이다.

...

...

그럼에도 불구하고, 이 장에서는 느린 도약에 의한 상황이 불가능한 몇 가지 이유를 제시하도록 하겠다.

만약 도약이 일어난다면, 그것은 폭발적인 과정일 가능성이 크다.

-닉 보스트롬,『슈퍼인텔리전스』,지능 대확산의 동역학 中

뒷 부분 요약은 아래 글에서

https://gall.dcinside.com/mgallery/board/view/?id=thesingularity&no=357412

<span style="color:rgb(0,0,0);font-size:12pt;font-family:'Malgun Gothic', '맑은 고딕', AppleGothic, sans-serif;">닉 보스트롬) 느린 도약이 불가능한 이유 </span><span style="font-size:12pt;font-family:'Malgun Gothic', '맑은 고딕', AppleGothic, sans-serif;"> </span><span style="font-size:12pt;font-family:'Malgun Gothic', '맑은 고딕', AppleGothic, sans-serif;"> </span><span style="font-family:'Malgun Gothic', '맑은 고딕', AppleGothic, sans-serif;"> </span>

[익명(59.9)]

느린 도약 안 되서 다행이다... 생각만 해도 끔찍해 쓸데없는 윤리, 정치, 종교, 법 충들이 인공지능 과학 기술 개발자들한테 감놔라 배놔라 하는 꼴 몇 백년 동안 어떻게 지켜보겠어..

[익명(1.229)]

아직 일어나지도 않았는데 머가다행임..

[은바다(nmra3fmzhxmg)]

빠른 도약 해야됨. 어? 어? 어??? 갑자기 막 변화되는 세상이 온다면 짜릿할듯

[트루맨(qwer2677)]

닉 보스트롬은 빠른도약 예측하나보네 중간도약이나 - dc App

[라이따잇(qwer1030123)]

도약이라는 거 언급하는거 보니 agi있나보네 - dc App

[빙냥이ㄱㅇㅇ(6zd2cxvc44h4)]

알트만은 아주 옛날부터 언급했음

[라이따잇(qwer1030123)]

[익명(1.229)]

진짜 병신인가

[라이따잇(qwer1030123)]

[MoonChild(aowlr2001)]