(내가 쓴 댓글 정리해서 올린거라 가독성이 떨어진다)


상류층의 기술적 독점에 관한 의견


상류층이 기술을 먼저 선점할 것이라는 보장은 없지만, 먼저 기술적 우위를 달성했을 경우(지능이나 신체적 능력의 향상)

이를 견제할 사회적 시스템이 존재하지 않는다면 민주-자본주의는 의미없어질 가능성도 있다.

이미 다수보다 소수의 엘리트 계층이 자원을 효율적으로 관리하고 사회를 지배할 수 있다면

번거로운 민주적 절차와 자본주의에 매달릴 필요가 없다.


민주-자본주의가 굴러가는건 시스템적으로 힘이 분산되어 있어서,

소수가 다수의 의지에 반하는 행동을 하기 어려운 구조 때문인데,

다수가 힘을 합쳐도 소수를 이길 수 없다면?

인간적 가치를 배제하고 효율을 중시하는 사회지배층이라면


쓸모없는 대다수 사람들을 제거해버릴수도 있다.


이에 대한 반론


상류층이라고 해도, 기술을 독점할 가능성이 충분하지 않다.

생물학적으로 지능이나 신체적 기능을 향상시키는 건은 매우 어려운 기술 중 하나다.

그런 기술이 발전될 정도면, 이미 비생물학적인 지능(컴퓨터 같은 비생물)이 생물학적 지능을 훨씬 능가했을 수도 있다.

비 생물학적인 지능이 생물학적 지능을 압도하는 상황이 이미 도래했다면,

상류층이 기술을 독점해서 악의적으로 이용할 가능성을 견제할 장치도 마련될 가능성이 높다.


컴퓨터같은 비생물학적 지능의 궁극적인 장점을 생각하면


비생물학적 지능이 생물학적 지능을 압도하는 가장 큰 장점은, 기능을 분리하거나 확장시키기 쉬운 구조를 가져서,

업그레이드나 강화를 시키기에 유리하다는 점이다.


비생물학적인 AGI가 탄생한다면,

AGI는 탄생 직후, 인간보다 근소한 정도의 우위만 가지고 있을 뿐, 압도적인 능력을 지니고 있진 않을 것이다.

그러나 자가발전에 유리한 구조 때문에 매우 빠르게 성장하리라는 가정을 할 수 있다.


이런 AGI를 사회의 여러 문제를 해결하는 데 사용하는 것은, 달리 말하면 인간이 지니고 있는 사회적 권력을 기계에게 이양하는 과정이다.


손에 쥐고 있는 권력을 이양하는 것은, 극도로 민감하고 예민한 일이다.


AGI에게 권력을 주는 것은 절대로 돌이키기 어려운 낙장불입의 선택지라는 것을 인류 스스로 자각하고 있을거이고,

본격적으로 AGI가 권력을 장악하기 전에 매우 거대한 정치적 담론을 끊임없이 불러일으킬거라 할 수 있다.

그 시점에서 AGI를 상류층이 독점하고 자의적으로 이용할 수 있을까? 모두의 이목이 집중된 상황에서?


최소한 비생물학적 강인공지능(AGI)가 탄생한 시점(자가발전 하기 전)에서는

AGI나, 상류층, 중산층 및 하위층의 권력이 극단적으로 차이가 날 것이라 생각하기 어렵고,

이런 상황에서 상류층이 AGI를 독점하는 건 정치적,사회적 자살행위다.

설령 독점할 수 있더라도, AGI를 자의적으로 독점하는 선택지를 처음부터 가지는 것은,

상류층 스스로에게도 매우 위험한 선택지가 될 것이다.


상류층이라는 것은 일관되고 통일된 정치집단이 아니기 때문에(상류층도 그 안의 다양한 집단과 조직에 따라 이해관계가 모두 다르기 때문에)

상류층 스스로도 언제든지 배제되어 그 혜택을 누리지 못하는 결과가 발생할 수 있으므로


AGI의 위험성, AGI를 특정세력이 독점했을 때의 부작용에 대해서도 최대한 고려하는 과정에서, 다수에게 이득이 될 공리주의적 선택을 하는 것이,

상류층 스스로에게도 유리한 선택지라는 말.


위의 전제대로 최대한 다수에게 혜택이 돌아가는 구조로 AGI에게 사회적 권력이 이양된다면,

기술의 발전으로 상류층들이 생물학적 기능을 향상시키더라도, 차이를 뒤집고 역전시키는 건 매우 어려울 것이다.

AGI는 구조상 자가발전으로 생물학적 지능보다 훨씬 빠르게 발전이 가능하기 때문이다.

AGI가 공리주의적 시스템을 뿌리로 만들어졌다면, 소수의 상류층이 대다수 인간보다 뛰어난 능력을 갖게되더라도 그 가치를 역행하는 행동을 하긴 어려울 것이다.