념글에 보면 약간 모순처럼 보이는 부분이 있음
“논문은 미국이 초지능 AI 시스템을 독점적으로 장악하려는 공격적인 시도가 중국으로부터 강한 반발을 불러일으킬 수 있으며, 이는 사이버 공격의 형태로 나타나 국제 관계를 불안정하게 만들 가능성이 있다고 주장한다.“
“슈미트는 미국이 ‘초지능을 향한 경주에서 승리’하는 데 집중하기보다는 다른 국가들이 초지능 AI를 개발하지 못하도록 억제하는 방법에 초점을 맞춰야 한다고 제안한다.”
독점하려는게 불안정하게 만든다면서 정작 다른 국가들이 개발하지 못하도록 해야 한다? 뭔 개소릴까? 그래서 논문에서 저 부분을 대충 찾아봄
요약하자면 보통 돈 많이 투자하고 이거 빨리 개발해! 를 맨해튼 프로젝트라 생각하지만 맨해튼 프로젝트의 특징은 폐쇄적으로 가속화였음
슈미트는 여기서 폐쇄적이라는 요소에만 반대하고 통합적인 ai 조약을 체결해서 합의한 국가들끼리 공유하고, 거부하는 국가들의 개발을 막는 방식을 제안함
일단 상호 확증 ai 무력화(Mutual Assured AI Malfunction)는 한 국가가 ai를 독점하려고 할 때 다른 국가가 선제 공격으로 ai 프로젝트를 무력화할 수 있다는 원리임
“다른 나라는 만약 경쟁국이 AI 통제에 실패하면 생존이 위협받고, 반대로 경쟁국이 AI를 강력하게 통제한다면 역시 생존이 위협받는다. “
미국이 진짜 안보에 큰 영향을 끼칠 ai의 독점을 확보하려고 한다면 다른 국가들은 가만히 있지 않음
무조건 전쟁한다는게 아니라 스파이부터 비밀 파괴 공작, 현실적으로 취약한 데이터센터의 사이버/물리적 공격 정도를 고려할 거라는 소리임
따라서 경쟁국이 ai의 독점을 위협으로 간주하는 순간 그 ai 프로젝트는 공격을 받아 무력화될 수 있기 때문에 그러지 못한다는 전략적 균형이 형성됨
이 추상적으로 보이는 균형을 유지하기 위해 의도적인 유지 관리, 즉 합의와 조약이 필요함
일단 MAIM이 통하려면 공격할 힘이 있어야 하기에 각 나라들은 데이터/가중치 조작, GPU 오류 처리 소프트웨어 손상 등 사이버 공격 역량을 확보해야 함
또한 이성적인(민주주의) 국가들에게만 ai 칩과 모델을 공유하고 소유하는 걸 허가하고
군사용 ai와 일반용 ai 를 구별해서 MAIM 공격이 발생하더라도 일반용 ai 데이터센터를 타격하지 않고 불필요한 긴장감을 줄여야 함
그럼 MAIM 논리를 받아들이는 국가는 저런 식으로 합의한 다음 균형을 유지하며 서로 공유하면 되겠지만 좆까는 국가(중국)도 당연히 생길 거임
“다른 국가들이 초지능 AI를 개발하지 못하도록 억제하는 방법에 초점을 맞춰야 한다”의 의미는 이런 국가들에게 한정해서 엄격하게 제한해야 한다는 말이었던 것
제한 방법은 컴퓨팅 제한, 정보(가중치, 데이터) 제한, ai 모델 제한 등을 제시함
댓글 3