[일반] 모두가 동의하는 AGI 기준 2가지

[익명(122.47)]

재귀개선과 장기기억

이 2개는 최소한으로 가지고 있어야 AGI임

지능이 아무리 높아도 저 2개 없으면 아스퍼거새끼일뿐임

[돌몽(shall8296)]

재귀개선이 된다는건 그건 그냥 특이점인듯...

[돌몽(shall8296)]

1시간 뒤 2시간 뒤 4시간 뒤 지능이 매번 높아질텐데 재귀개선은 생각보다 어마어마함

[글쓴 ㅇㅇ(122.47)]

느린 이륙 빠른 이륙 검색ㄱㄱ

[돌몽(shall8296)]

느린 이륙이 재귀개선 없는 ai임

[돌몽(shall8296)]

빠른이륙: 어느 순간 AI의 성능이 폭발적으로 증가하면서 인간 수준을 넘어서는 순간이 짧음. 초기에는 기존 AI처럼 보이지만, **스스로 개선하는 AI(Recursive Self-Improvement)**가 등장하면서 예상보다 훨씬 빠르게 초지능(ASI; Artificial Superintelligence)로 발전함. 딸깍해옴

[글쓴 ㅇㅇ(122.47)]

느린 이륙은 정렬해서 사회가 적응할 시간을 가지며 발전시키자는 쪽이고 빠른 이륙은 애초에 인간이 AI를 통제할수 있겠냐 그냥 발전시키자 하는 재귀개선 풀로 돌리자는 쪽임

[돌몽(shall8296)]

아 그러니까 재귀개선은 갖고가되 조금씩 풀자 이말이구나 그게 가능은 하겠네 확실히

[글쓴 ㅇㅇ(122.47)]

한마디로 느린 이륙 -> 재귀개선 하되 전단계에서 통제책 확보 후 발전 / 빠른 이륙 -> 재귀개선 풀로 땡겨서 바로 특이점까지 발전

[ㅇㅇ 1(218.144)]

ㅇㅇ....추가로, 빠른 이륙은 보통 '부정적 의미'로 쓰이는 거임. 안전주의자들이 주로 쓰는데, 빠른 이륙을 하자~ 이게 아니라, 빠른 이륙이 발생할 수 밖에 없다. 즉, 인간이 의도했든 의도하지 않았든 제대로 정렬 안 된 채로 지혼자 발전하고 인류에 해를 끼칠거다. 그러니, AGI 개발은 멈추거나 매우 천천히 억제해야 한다. 이런거임. 알트만도 AGI가 만들어지면 몇일만에 초지능에 도달 가능할 것이라고 예상했었음.(물론 이 말 했을 때랑, 알트만의 AGI 기준이 좀 달라짐) 하지만, 재귀개선 명령, 즉 이륙 명령을 내리는 건 최대한 천천히 해야 한다고 했지.

[ㅇㅇ 1(218.144)]

유입 특붕이들이 오해하는데 빠른 이륙과, 빠른 AI의 발전, 빠른 연구. 이거랑 다른 의미임. 이륙은, 말 그대로 비행기가 이륙 하고나면 다시 내려올 수 없듯. AI한테 '너 스스로 발전해보라'는 멈출 수 없는 그 명령을 내리는 걸 의미함. 알트만은, 빠르게 AGI까지 달성해놓고, 최대한 많이 사용하면서 제대로 정렬 시키는 방법에 대해서 인류가 충분히 깨달으면, 그때 '이륙'명령을 내리자. 이쪽임. 그래서 배포를 적극적으로 한거고, 일리야랑 틀어진거겠지. 근데, 요즘 중국이 치고올라오면서 openAI만이 아니라, 모든 AI 기업들이 조금 조급해진 것 같음. 과연 제대로 정렬하는 법이 빨리 나올지.

[마첸타(rlarudxo0513)]

난 재귀개선이 asi기준일줄알았는디

[ㅇㅇ 1(218.144)]

단순하게, AGI보다 더 똑똑하면 ASI. 이런 게 아니긴 함. AGI한테 '너 스스로 발전시켜봐.' 라고 명령을 내리면 처음엔 2배 발전하는 데 몇일, 그 다음 몇시간, 그 다음은 몇분, 몇초......그러다가 어느 순간 인류 총지능보다도 똑똑해지면서 ASI는 자연스럽게 달성. 즉, AGI를 만드는 건 인간의 몫이지만, ASI를 만드는 건 AGI의 몫이라. 재귀개선이 보통 AGI의 기준이긴 함. 다만, 사람마다 기준이 조금 다르긴 하고, 우리가 AGI니, ASI니 만드는 이유가 삶을 개선하기 위해서 인 걸 생각하면, AGI이 기준이 재귀개선이 아니라, GDP를 몇% 끌어올리느냐. 돈을 얼마나 벌어다 주느냐. 이런 것도 기준으로 보려는 사람들도 점점 생겨나는 듯.

[마첸타(rlarudxo0513)]

추상적인거에서 점점 구체화되면서 사람들끼리 의견이 갈리나보네

[익명(221.142)]

맞음