인공지능 시스템이 인간보다 더 똑똑해져도, 여전히 인간은 "최상위 종"이 될 것입니다. 지능을 지배력과 동일시하는 것은 인공지능의 존재론적 위험에 대한 논쟁에서의 주요 오류입니다. 이것은 완전히 잘못된 주장입니다. 인간 종 내에서도 이는 잘못된 것이며, 가장 똑똑한 사람이 다른 사람들을 지배하는 것은 아닙니다.

더 중요한 것은 가장 똑똑한 사람들이 다른 사람들을 지배하려는 욕구를 가진 사람들이 아니며, 그들이 일정한 계획을 세우는 것도 아닙니다.우리는 진화로 인해 우리 안에 내장된 충동에 복종합니다. 사회적 계층 구조를 가진 사회적 종이 되도록 진화시킨 것 때문에, 우리 중 일부는 지배의 욕구를 가지고 있고, 다른 사람들은 별로 그렇지 않습니다. 하지만 이 욕구는 절대로 지능과 관련이 없습니다. 침팬지, 바비룬, 늑대도 비슷한 욕구를 가지고 있습니다. 그렇지만 사회적 종이 아닌 오랑우탄은 이러한 욕구를 가지고 있지 않습니다.

그리고 그들은 꽤 똑똑합니다.인공지능 시스템은 인간보다 더 똑똑해질 것이지만, 여전히 우리에게 복종할 것입니다. 그들은 정치인이나 비즈니스 리더의 스태프 구성원들처럼 뛰어난 지능을 가질 것입니다. 그러나 그들의 리더는 여전히 지시를 내릴 것이며, 대부분의 스태프 구성원들은 그들의 자리를 대체하려는 욕구가 없을 것입니다.우리는 인공지능을, 똑똑하지만 지배적이지 않은 스태프 구성원과 같이 설계할 것입니다."최상위 종"은 가장 똑똑한 것이 아니라, 전반적인 계획을 세우는 종입니다. 그것은 우리가 될 것입니다.


https://twitter.com/ylecun/status/1695056787408400778



- dc official App