[일반] 제일 두려운 건 AGI를 달성해놓고도 모르다 어느새 ASI돼있는 거

[익명(124.55)]

준비가 안된 상태에서 신을 창조한다면...

[익명(124.55)]

적고 보니까 애초에 신을 창조하는 것에 "준비"가 가능할지 의문이긴 한다

[이런내가특특(andud96)]

asi가 자아를 갖지 않는 이상 충실한 도구일 뿐 아닌가?

[핵융합발전소(ripe5343)]

인간을 아득히 뛰어넘는데 자아가 없을까?

[익명(124.55)]

인간 식의 자아는 아니겠지 그치만 도구여도 예를 들어 "세상 모든 지식을 습득해"하면 본인이 정확히 알 수 없는 부분을 직접 해버린다던가 (태양 폭발 등등) 이런 가능성이 문제지

[해당 댓글은 삭제되었습니다.]

해당 댓글은 삭제되었습니다.

[익명(124.55)]

당장은 그런데 몇 년 뒤면 그럴지도 모르니까

[익명(175.206)]

이거에 대해서 예전에 프리드먼이랑 알트만이 대화 나눴던 것 같긴한데 결론이 기억 안 나네. 우리가 AGI를 만들었을 때 그걸 알아차릴 수 있느냐. 혹시 AGI가 아닌 척 하면 우리가 어떻게 알 수 있냐. 이런 대화 나눴던 것 같은데