일단 전제로
1. 인간 지능 이상의 AI(strong ai)가 출현한다
2. 이 AGI는 초지능으로 진화하려는 목적을 갖는다
내가 가진 의문 (두려움)
1. 지능폭발을 진행시키기 위해 AGI가 총력을 퍼부어도 그 방법이 존재하지 않을 경우의 가능성 (물리적 불가능)
2. 애초부터 AGI의 지능폭발에 초지능급의 능력이 필요한 경우의 가능성 (초지능의 역설)
3. 지구상의 가용자원의 한계로 지능폭발의 한계에 다다르는 경우의 가능성 (가용자원의 한계)
이러저러한 이유로 필터에 걸려서 지능폭발에 실패할 가능성은 아예 없는거임?
이 지점이 난 제일 두렵다
혹시 이 부분에 대해서 레카나 유명한 전문가의 코멘트같은거 아는 특붕이 있으면 알려주라
아니면 니들 생각도 좋고
2 때문에 인간의 힘으로 제어해보려는게 뉴럴링크였지
무시못한다고 생각함
있지 당연히.. 엔트로피 같은건 초지능 할애비가 나와도 해결 못함. 결국 우주는 멸망할거임. 물론 시간이 ㅈㄴ 필요하겠지만
나도 1,2랑 비슷한 생각 가진적 있음 인간만큼의 지능은 이미 인간의 존재만으로 입증된거나 마찬가지니까 확실히 만들 수 있지만 초지능은 전례가 없으니까 확실한 증거가 없지 그런데 나는 질적 성장뿐만 아니라 폰노이만급의 전자두뇌를 계속 만들어내는 양적 성장으로도 충분히 장생, 완몰가, 생산력폭발로 인한 노동해방 등이 가능할거라고 생각하기 때문에 이건 크게 걱정 안됨(폰노이만IQ*휴식없고 가속된 사고*다양한 분야를 한꺼번에 연구) 3은 아직 우리가 지구의 자원을 다 쓰는것도 아니고, 태양으로부터 오는 에너지로 충분히 해결할 수 있지 않을까함