[일반] 솔찌기 AGI => ASI가 기술적으로 오래 걸릴거라고 생각함?

[익명(14.53)]

안전 이슈 등등 고의적으로 속도 늦추지 않는이상

기술적으로만 보면 AGI와 ASI간에 시기상 차이가 거의 없는 수준이 아닐까 생각하는데

[ㅇㅇ 1(222.121)]

AGI만 달성하면 빠를거라고 생각되는데 문제는 AGI의 달성 자체가 얼마나 걸릴지...

[라면1년섭취(weave4672)]

놉..

[익명(amazonia)]

ㄹㅇ

[ㅇㅇ 2(183.108)]

AGI까지 달성하는 건, 인간이 연구를 통해서 달성해야함. 하지만 AGI 부터 ASI까지 가는 건 대부분 AI 스스로 재귀개선을 통해서 달성함. 이 기간은, 사람마다 의견 차이는 있지만, 재귀개선을 명령하면 단기간에 달성할 거라는 의견이 많음. 알트만도 몇일만에 ASI가 될 거라고 생각했음. 다만, 이 기간이 짧은 건 보통 부정적으로 해석함. 제대로 정렬되지 않은 상태로 막대한 힘을 가지는 걸로 보거든. 그래서 알트만도 빠른 AGI, 느린 ASI를 해야 한다고 말했고 빠른 ASI를 언급할 땐, 보통 통제를 못 해서 발생하고 이로 인해 인류가 멸망할 수 있다는 안전주의자들쪽에서 자주 하는 말임.

[ㅇㅇ 2(183.108)]

그래서 AGI를 달성하고 나면 최대한 천천히, 정렬 시키면서 조심스럽게 개선해서 ASI에 도달해야 한다는 의견이 있었고. 아쉬워할 것도 없는 게, AGI만 달성해도 지구는 아인슈타인급 연구원 수억명이 연구하는 문명을 갖춘 게 됨. ASI 전에도 역노화도 가능할 수 있고 ,완몰가도 가능할 수도 있고, 보편적 고소득도 가능하지. 문제는, 중국 같은 경쟁 기업의 빠른 추격임. 그래서 AGI를 달성하고 여유롭게 정렬해서 ASI가 될 수 없다는 의견도 많아짐. 급하니까 먼저 버튼 누를거다. 알트만도 빠른 AGI, 느린 ASI를 말했지만, 아마 생각이 바뀌고 있다고 말했을거임. 이유는 경쟁 때문이라 한 것 같은데. 지금 같은 국가간 AI 경쟁이 치열해진다면, AGI에서 ASI까지는 빠를 가능성이 좀 있음.

[ㅇㅇ 2(183.108)]

아 물론, 이건 1,2년 전 이야기이긴 한게, 이땐 AGI의 등장을 어느 시점으로 봤음. 어느 날 딱, AGI급 모델이 등장. 하지만, openAI AGI 5단계 로드맵도 그렇지만, 지금은 AGI가 단일 시점이 아니라, 점진적으로 AGI에 도달하는 형태로 실현되는 중이라 좀 다를 수 있음. 재귀개선도, 과연 지식만으로, 아키텍쳐 수정만으로 ASI가 될 수 있는건지, 혹은 하드웨어 병목을 무조건 해결해야 하는 지도 명확하지 않음. 또, 경쟁상황도 어찌 될 지 모르지. AGI가 나오는 순간 갑자기 푸틴이랑 시진핑, 럼프가 모두 선해져서 '그래 인류를 위해 화합하자.' 할 지도 모르고. 혹은, 빠른 ASI를 겁내는 이유가 정렬 때문인데 일리야가 정렬 하는 법 완료! 하면 바로 재귀개선 하면 되고.

[ㅇㅇ 3(220.65)]

제프리 힌턴, 요슈아 벤지오 둘 다 AGI 달성 이후 ASI는 매우 빨리 도달할 거라고 그러더라. 전문가 수준의 지적능력을 가진 기계지능 수천만대를 병렬적으로 돌려서 24시간 내내 한 달동안 AI연구에만 매진하도록 한다고 생각해보면 너무 자명함. 게다가 생물학과는 다르게 현실세계의 병목이 있는 것도 아니고.

[행복한천국으로(adjust7431)]

하드웨어병목..

[익명1(grocery8445)]

병목점이 온다