알트만의 이 발언을 풀어서 생각해보면 다음과 같다.

'스스로 재귀개선이 가능한 agi의 도달은 근시일내로 달성되지만,
Agi의 영향력이 인류의 세상(=사회)에 미치는 영향은 느리다.'

이유는 간단하다. 인류가 모두에게 있어서 agi를 사용하는 것에 대한 약속(=규제, 법 달성)이 느리게 진행되기 때문.

Agi가 아무리 인간보다 지능이 월등해도, 결국 agi를 사용하는 것에 대한 판단은 인간의 몫(=의지 혹은 선택)이다.

즉 agi사용에 대한 인류끼리의 약속은 agi의 지수적인 재귀개선 발전만큼 빠르게 진행될 수가 없는 선형적인 발전이다.

착각하지 말아야 할것은 지능과 선택(혹은 의지)은 다른 차원으로 고려되는 개념이라는 것.

Agi가 인류보다 지능이 아무리 높아도 결국 선택의 몫은 인류라는 것.





간단하게 생각하면
인간이 ai랑 차별화될 수 있는 능력은 오직 하나
인간은 ai를 사용하는 것에 대한 선택이 가능하나
Ai는 자신의 사용성에 대한 그 선택권이 없다는 것
즉, 권력의 위치가 인간>Ai 라는 것

알트만 위 발언을 통해 agi의 통제권은 인류에게 달렸다라는 것을 말해주고 있다. 즉, 우리 인류가 선택하기 나름이라는 것.



하나 간단하게 사고실험을 해보자.

만약 인류가 agi를 통해 애니메이션 영화 '하늘에서 음식이 내린다면'처럼 음식을 무한정 만들어 낼 수 있다고 하자.

음식이 만들어지는 원리가 인간의 지능으로는 이해할 수 없지만 어쨋든 인류는 무한정 음식을 만들어내는 agi를 모두에게 규제없이 사용시킬 수는 없을 것이다.

왜? 이는 유물론적인것도, 이기적인것도, 자본주의적인것도 아닌 인류가 살아갈 공간의 문제이기 때문이다.

음식을 무한정 만들어내는 agi를 규제없이 인류에게 제공한다면 이 지구에 사는 인간은 음식속에 파묻혀 죽게될 것이다.
그 외에도 agi는 모두가 핵무기를 만들 수도, 악의를 품은 특정한 한사람이 지구를 산소없는 행성으로 만들 수도, agi를 통해 인류가 죽지 않게되어 지구가 사람으로 가득차서 사람속에 파묻혀 죽을 수도 있는 것이다.

어떻게 보면 요술의 램프같기도하고 전지전능한 신을 내 수하로 두는 것 같기도 하다는 것이다.





그러기에 우리 인류는 agi를 근시일내에 접할 수 있어도,

인류는 바로 agi의 온전한 능력만큼을 그 혜택으로 바로 누릴 수 없다는 것이다.

인류가 agi를 통해 서서히 지구 밖 다른 행성을 테라포밍해나가면서 우주의 무한한 공간을 이용할 수 있기 전까지는

우리 인류는 agi의 능력을 100% 사용할 수 없다. 그 이유는 우리 인류가 현시점에서 agi의 능력의 100%를 온전히 사용한다면 앞서 말한대로 우리 인류가 멸종하기 때문...




그러기에 우리 인류는 우리끼리의 약속을 통해 agi의 능력에 제약을 걸어놓고

서서히 천천히 그 제약을 조금씩 풀것이다.

어쩌면 우리 세대는 이 약속을 정하는것이 우리 인류의 사명일 수도 있다. 어쩌면 agi의 혜택을 온전히 누리지 못하고 죽을 수도 있다.
아마 우리가 앞으로 맞이하게 될 과도기는 이런 형태일 수도 있다.
인류의 공공의 약속을 어기는 권련자의 agi의 남용과 같은 사태.