80억의 총지능이란 그리 높은가
갤주 타임라인도 16년 걸림
재귀개선이 키포인트인데 알트만 말하는 거 보면 oai의 agi 초기엔 재귀개선이 안 되나봄
만약 자체개선 빠른이륙 안되도 지금 agi 예측 계속 앞당기는것 처럼 초지능 예측도 계속 앞당겨질듯
초지능이 모든 인간의 지성의 수조억배 될텐데 재귀개선해도 20년 수준은 걸리겠지
그거 초지능아님;; 초지능은 인간 초월한거고 특이점이 인간 80억배
초지능은 솔직히 갈 길이 멀지
개인적으론 믿을건 일리야 한명뿐이라고 생각
걍 알트만 화법임. 종종 앞뒤 안맞는 소리해서 사람들 혼란스럽게 함
인간 창의력을 아직 완벽히 대체 못하나봐
알트만은 일관되게 agi는 빠르게 asi는 느리게 를 주장했음. 초지능 도달하는게 느리다는 느낌보단 신중하게 도달한다는 느낌이었음
그냥 정렬 때문에 느린 이륙을 목표로 잡은듯. 결국 정렬을 통한 평화로운 공존이 안되면 agi나 asi나 통제 불능의 리스크가 있으니까. 물론 이건 알트만의 바람일 뿐이고 경쟁자들이 뒤에 바짝 붙어서 쉽지 않을듯
80억의 총지능이란 그리 높은가
갤주 타임라인도 16년 걸림
재귀개선이 키포인트인데 알트만 말하는 거 보면 oai의 agi 초기엔 재귀개선이 안 되나봄
만약 자체개선 빠른이륙 안되도 지금 agi 예측 계속 앞당기는것 처럼 초지능 예측도 계속 앞당겨질듯
초지능이 모든 인간의 지성의 수조억배 될텐데 재귀개선해도 20년 수준은 걸리겠지
그거 초지능아님;; 초지능은 인간 초월한거고 특이점이 인간 80억배
초지능은 솔직히 갈 길이 멀지
개인적으론 믿을건 일리야 한명뿐이라고 생각
걍 알트만 화법임. 종종 앞뒤 안맞는 소리해서 사람들 혼란스럽게 함
인간 창의력을 아직 완벽히 대체 못하나봐
알트만은 일관되게 agi는 빠르게 asi는 느리게 를 주장했음. 초지능 도달하는게 느리다는 느낌보단 신중하게 도달한다는 느낌이었음
그냥 정렬 때문에 느린 이륙을 목표로 잡은듯. 결국 정렬을 통한 평화로운 공존이 안되면 agi나 asi나 통제 불능의 리스크가 있으니까. 물론 이건 알트만의 바람일 뿐이고 경쟁자들이 뒤에 바짝 붙어서 쉽지 않을듯