AI에 의한 인류 멸종을 예방하려면 대다수가 동의할 정도로 안전한 수준의 정렬이 필요함


근데 중국 기업이 미국 빅테크 기술을 복사하면서 바짝 따라붙을 경우,


빅테크 입장에선 중국 기업에게 따라잡히지 않기 위해 정렬을 소흘히 할 여지가 커짐


반면 중국 기업들이 뒤쳐져서 빅테크들끼리 선두 경쟁하면 미국 정부에서 자국 기업들에 대한 감독과 규제를 통해 조절 가능함 


그리고 무엇보다도 중공의 감독하에 만들어진 AI가 정렬이 제대로 되었을지 불확실하며,


정렬이 제대로 되었다 하더라도 인류가 아닌 중공을 위해서만 작동하도록 정렬되었을 가능성이 있음


그래서 딥시크가 오픈소스로 모델을 풀더라도 그것이 단기적으론 인류의 생산성 향상에 보탬이 되겠지만 


장기적으로 볼 때는 딥시크의 존재가 인류에게 위협이 된다고 봄