AI에 대해 국제적으로 적용되는 속도 제한이 없으면 인류는 생존할 가능성이 거의 없습니다. 지금부터 2~3년 후 AI의 관점에서 우리는 동물보다 식물처럼 보입니다. 크고 느린 바이오 연료 덩어리는 몇 초 동안 방해받지 않으면 약한 지능의 징후를 보입니다.

다음은 우리보다 50배 빠른 시스템의 관점에서 본 것입니다.

향후 10년 동안 AI는 우리보다 100배 - 1,000,000배 더 빠른 속도 이점을 기대합니다. 왜?

뉴런은 최대 초당 ~1000회 발화하는 반면, 컴퓨터 칩은 그보다 백만 배 더 빠르게 "발화"합니다. 현재 AI는 최대한 효율적으로 실행되도록 정제되지 않았지만 거의 확실하게 인간보다 100배 더 빠르게 실행될 것이며 하드웨어 속도 차이를 고려할 때 1,000,000x는 생각할 수 있습니다.

"하지만 식물은 여전히 주변에 있습니다!"라고 당신은 말합니다. "어쩌면 AI는 인간을 자연 보호 구역으로 유지할 것입니다." 가능하지만 속도 제한이 없는 경우 가능성이 낮습니다. 지구상의 모든 종의 ~99.9%가 멸종되었음을 기억하십시오.

인류가 우리보다 100배에서 100만 배 빠른 지능 시스템에 직면했을 때 멸망할 것이라는 "비범한" 주장에 대해 사람들이 "비범한" 증거를 요구할 때, 종에게 일어나는 "일반적인" 일은 생존이 아니라 멸종이라는 점을 기억하십시오. 현재 많은 사람들이 주장하는 것처럼 "세계적 수준의 체스 AI가 어떻게 당신을 체크메이트할지 예측할 수 없지만 누가 게임에서 이길지는 예측할 수 있습니다."

그리고 "정렬"에 대한 모든 대화와 AI가 인간을 동료 또는 조수로 제공하는 방법에 대해 위의 비디오를 기억해 보십시오. 미래의 AI에게 우리는 침팬지가 아닙니다. 우리는 식물입니다.



- dc official App