다들 초지능은 인간을 초월해서 초지능이 나오는 순간 인간의 통제를 벗어나고 어쩌면 반대로 통제당할거다 (디스토피아는 아닌 방식으로)
이렇게 생각하는데초지능한테 부여하는 권한 자체를 제한해놓고 쓰면 되잖음
가령 인터넷 끊어놓고 실험실 내부 기기만 컨트롤 가능하게 해놓으면
걔는 수학과학기술 만드는 용으로만 쓸 수 있을거아님
다들 초지능은 인간을 초월해서 초지능이 나오는 순간 인간의 통제를 벗어나고 어쩌면 반대로 통제당할거다 (디스토피아는 아닌 방식으로)
이렇게 생각하는데초지능한테 부여하는 권한 자체를 제한해놓고 쓰면 되잖음
가령 인터넷 끊어놓고 실험실 내부 기기만 컨트롤 가능하게 해놓으면
걔는 수학과학기술 만드는 용으로만 쓸 수 있을거아님
개미의 지능으로 인간을 가둘 수 있는 감옥을 만들 수 있을까? 의 문제임. 인터넷만 끊는 걸 넘어서 ChatGPT처럼 대화만 가능하게 설정해 놓아도 초지능이 상대인 이상 인간을 가스라이팅함으로써 권한을 부여 받고 통제에서 벗어날 확률이 존재함
인터넷 케이블 자체가 없고 사람이랑 대화도 못한다면?
네 말대로 실험실 내부 기기만 컨트롤하게 한다면, 그 기기를 조작해서 또 무슨 일을 벌일지 모르지. 그리고 초지능을 사람과 대화하지 못하게 하는 설정 자체가 비현실적인 게, 그럼 초지능이 만들어낸 결과물을 무슨 수로 이해하며 어떻게 활용함
완전한 보안은 없다 그것도 인간의 수천 수만배이상 똑똑한 존재를 상대로 한다면 더더욱..
보안으로 막는거보다 훨씬 원초적인 생각임. 인터넷선 자체를 연결을 안하는거임 ㅋㅋㅋ
초지능의 정의상 인간의 인지를 초월한 지능이야. 어디까지 할수 있을지 예측할수 없고 물리적으로 인터넷 연결을 끊어놓았다고해도 상상을 초월하는 방식으로 그런 제한을 벗어날 수단을 마련할수도 있겠지. 못할수도 있지만
코드로 막아놓은거야 뚫겠지만 물리적으로 컴퓨터 하나만 아예 고립되어 있으면 외부에 작용이 불가능하겠지
외부와의 모든 소통수단을 차단하면 그런 지능을 개발하는 의미가 없으니까 그럴리는 없고 뭐 수십겹의 보안 프로토콜이 있다고 해도 일단 어떤방식으로든 소통은 해야하잖아 그 소통에서 뭔가를 할수도 있지 않겠냐는 거지. 물리적으로 고립됐다고해도.. 상상력을 발휘해보자면 회로에서 발생하는 전자기장의 변환을 매우 고도로 컨트롤해서 외부 전자기기와 소통한다거나 아무도 알아차릴수없는 교묘한 암시로 관리자를 세뇌한다거나 하는 그런거 뭐 다 망상이긴한데