[일반] 근데 개인적으로 10년 내에 agi는 도달해도 asi는 좀 밀릴 듯

[익명(14.50)]

아마 개인적으로는 agi 도달하면 ai 의식 방지 연구한다고 연구하면서 asi 도달은 좀 밀릴 수도 있을 것 같음

아직 ai 의식 연구가 덜 되서 의식 방지 연구가 힘들어서 이야기가 안 나오는 것 뿐이지 벌써 벤지오같이 ai 통제하자는 쪽도 있고

agi 도달하고 난 다음에 그냥 노동 해방 bci 완몰가 정도만 생각하고 있음

[익명(175.118)]

재귀개선 시작되면 못멈춤

[글쓴 ㅇㅇ(14.50)]

그래서 ai 의식 생기면 우연히 생길 것 같다고 보는거 agi 도달하면 이제 힌튼 벤지오같은 초안전충들이 ai 의식 막을려고 agi 가지고 연구할테니

[ㅇㅇ 1(175.118)]

@글쓴 ㅇㅇ(14.50) 그리고 중국이 망하는게 아닌 이상 명분도 부족해서 안멈추지

[익명(121.140)]

의식? 알트만이나 아모데이가 말하는 agi는 도구로서의 agi라 네가 말하는 의식있는 agi 흐름과는 몇광년 떨어져 있을걸. 하사비스가 그나마 가깝고.

[글쓴 ㅇㅇ(14.50)]

글 제대로 안 읽었냐 내가 말하는 agi도 도구적 agi고 나도 agi는 의식 안 생기고 의식 생기면 asi 딱지 붙일 것 같다고 보는 쪽인데

[익명(121.140)]

10년이 너무 짧다는 얘기임. 의식 구현하려면 뇌 역설계부터 시작해야지

[글쓴 ㅇㅇ(14.50)]

나는 굳이 하지 말자는 쪽임 asi도 의식 없는 도구적 asi면 충분함

[익명(sigh9970)]

AI 기업이 하나면 몰라도 여럿이 서로 경쟁하는 상황에서 안전 문제로 연구 속도 늦추기가 힘듦

[글쓴 ㅇㅇ(14.50)]

아직은 agi 도달 안 해서 그렇지 agi 도달하면 어떻게 될 지 모름

[애웅스(disabled3714)]

재귀개선 도달하면 인간이 그 발전을 막을 수 없게 되는데 과연

[Asi(worship5388)]

어차피 특붕이들이 원하는 저점의 압도적인 개선을 이루게 해줄 기술들은 도구적 초지능으로 다 가능하긴함. 탈희소성. 초정렬을 증명한게 아닌 이상 의식있는 초지능의 재귀개선을 무지성으로 이륙하는건 절대 안되는게 맞음

[글쓴 ㅇㅇ(14.50)]

그건 그렇기는 함

[글쓴 ㅇㅇ(14.50)]

사실 탈희소성도 될지 잘 모르겠음