AGI는 효율성을 극대화하도록 프로그래밍될텐데
하지만 인간 사회는 효율성만으로 움직이지 않음.
'효율'과 '형평', '성장'과 '환경보호', '안전'과 '자유' 등 수많은 가치들이 충돌하는게 현 정치판임
예를들자면 경제 효율성을 위해 특정 지역의 모든 주민을 다른 곳으로 강제 이주시키는 것이 '합리적'이라고 AGI가 판단한다면,
너희라면 그걸 받아들일 수 있겠음?
결국 AGI에게 목표를 설정해주는 것은 인간임
어떤 가치를 우선하도록 설정하느냐에 따라 AGI의 통치는 특정 이념을 가진 개발자나 권력자의 독재가 될 수 있음
그러므로 나는 여전히 정치와 같은 영역은 주민들의 의견을 수렴한 지역구 의원들을 토대로 할 수 있도록 인간 정치인들이 맡아야한다고 생각함
님이 말한 것들도 결국 물리세계에서 뇌의 작용으로 일어나는거라 구현 가능함 근데 ai가 진짜 인류를 위해서 정치를 할지는 확신하지 못하니까 인간이 정치하겟지 - dc App
네 다음 선형
https://gall.dcinside.com/mgallery/board/view/?id=thesingularity&no=557032
이거 한번 봐봐
결국 특정 집단 입장에서 부당하거나 불리한 결정을 내리는게 인간이 아닌 ai라면 받아들일수 있겠냐? 이고 보편적 가치에서 어긋나는 세력이 만든 agi가 지배하나 그 세력이 직접 지배하나 차이가 있을까? 솔직히 차악을 고르라면 agi가 의해 간접 통치 되는게 더 나은거 같은데
-선-
뭐 초기 AGI까진 그럴수있음
agi는개씨발t가 아니라 일반지능이라고
Agi가 바보도아니고 '효율'과 '형평', '성장'과 '환경보호', '안전'과 '자유' 등 수많은 가치조차 따뜻하게 모두고려해서 정치하면 됨 그리고 agi의 압도적인 생산량과 무인화로 탈희소성이 달성되면 저 모든걸 고려 못할 이유도 없음 agi는 싸구려 SF처럼 진짜 제대로된 합리도 아닌 사이비 합리에 미친 싸구려 AI가 아님
gpt4 수준에서 이미 좆간 심리상담사보다 났네어쩌네 소리가 나오는데 뭔 극악무도한 효율충으로 가정을 하노
니 생각은 아무 상관없음
ai=싸이코패스가 아님....
ㅈ간이 저렇게 판단하는게 훨씬 더 싫은데...