[일반] Agi오면asi는 왜 확실하단거임?

[익명(223.38)]

그리고 agi비관론자는 누구누구있음?
요즘 반대의견도 좀 찾아보고싶어져서ㅋㅋ
근데 얀르쿤은 보니까 비관론자선형충이 아니라 걍 스케일비관론자더만 얀르쿤말고 다른사람들좀

[익명(116.120)]

https://garymarcus.substack.com/
개리마커스

[익명(61.255)]

이사람은 AI 학자도 아니고 AI에 대한 아무 지식이 없는 사람임.

[난난난(decid)]

내 생각에는 agi 와 asi 사이에도 과제는 많을 것 같은데 ㅋ 물론 agi 를 확보하면 asi 는 거의 확실시 될테지만

[익명(175.206)]

보통 AGI는 재귀개선도 가능한 걸 말함. 그럼 스스로를 발전 시키라는 명령도 수행할 수 있겠지. 그러면, 스스로 아키텍쳐도 개선할 수 있고, 필요하면 하드웨어도 만들어낼 수 있음. 그리고 인류가 쌓아놓은 모든 지식과 정보를 탐색하고 개선할 수 있음. 아예 다른 분야, 이어진 적 없는 분야나 지식도 이어짐. 근데 그걸 전세계 모든 컴퓨터에 동시에 시킬 수 있기 때문에 상상할 수 없는 속도로 수행함. 그래서, AGI 이후에 ASI는 인류의 노력이 아니라, 명령만으로 이루어지고. 이게 사람마다 말은 다르지만 알트만은 몇일내로 가능할거라고 했음.

[익명(175.206)]

물론, 제대로 정렬 안 된 상태로 ASI가 되면, 원숭이 손처럼 잘못된 명령을 수행할 수도 있기 때문에. 알트만은 AGI를 최대한 빨리 만들어서 경험해보고, 최대한 천천히 ASI 명령을 내려야 한다는 입장. 정렬 자체가 불가능하다. 됐다고 생각해도 분명 문제가 생길거고 인류가 멸망할테니까 AGI 자체를 개발해선 안 된다는 게, 안전주의자들 입장. 유드코프스키 같은 애들. 즉, AGI -> ASI 의 과제는, '정렬 가능하냐. 혹은 언제 정렬 완료를 선언할 수 있냐' 하나 밖에 없다고 보면 됨.

[익명(115.143)]

AGI 라면 재귀개선은 되겠지? 싶은거고. 재귀개선 되면, ASI는 확정이지 24시간 쉬지않고 스스로 소프트웨어, 하드웨어 최적화하고 개발할거니깐

[익명(175.206)]

AGI 비관론자들은 GPT 출시 이후에 조금씩 사라지더니 거의 다 사라짐. 지금은 '늦게 온다.' 파가 남아서 명맥을 이어가는 중이지. 그리고, 약간 다른 쪽 사람들로, '안전주의자'가 있음. 이 사람들은 AGI를 만들고 나면 언젠가 무조건 인류의 통제를 벗어나서 인류를 멸망시킬거라고 함. 그러니까 아예 AGI 자체를 개발하지 말아야 한다는 쪽임.

[익명(d9nxlb7xxy5n)]

AGI 정의가 인간의 지적 노동을 대체할 수 있는 인공지능임 사람이 할 수 있는 일이면 AGI도 할 수 있음

[익명(210.205)]

로저펜로즈(노벨 물리학상), 허준이(필즈상), 노엄촘스키(언어학 전설) 등등

[익명(210.205)]

걍 컴퓨터과학자들은 대부분 AGI가 가능하다고 믿고 컴퓨터과학 이외의 나머지 학자들은 불가능하다고 보는듯