빨리 발전해서 초가속 해도 어느 시점에서 멈추지 않을까 하는 두려움이 생김 만약 벽이 생긴다면 영원한 벽일지 일시적인 벽일지도 알 수 없고 일시적인 벽이 생기는 순간 버블터져서 투자고 뭐고 무산되고 과거회귀해버리고 특이점에 가장 가깝고도 먼 시대가 되어버리는 건 아닌가 하는 생각도 들어버림 간신히 기술 다 따라잡고 다시 발전시키고 하는데 그러느라 늦어져서 하필 나 죽고 나서 특이점이 오는 거지
커즈와일 따라 냉동참치 하러 가야겠다
일시적인 벽이 생기는 순간 버블 터져서 투자고 뭐고 무산되고 -> 그럴일 거의 없음 거의 세계대전급이라
인공지능 정렬이 의외로 쉽기만을 기도하셈
인공지능 정렬에 대한 연구 -> 인류가 인공지능이 재귀개선해도 정렬이 유지됨을 확인함 -> 인공지능에 의한 인공지능 개선 초가속
짤 커엽네 - dc App
실제 에피드(짤캐릭 게임사) 직원이 저런말을 했대
버블보단 서로 치킨게임하다 정렬안된 AI로 ㅈ될 가능성이