[일반] 알트먼은 AGI도달해도 천천히 발전한다던데

[익명(219.255)]

이게 선형이 아니면 뭐임

[익명(221.158)]

그냥 이름만 agi인 챗봇 유사 에이전트 따리인가 보지

[ㅇㅇ 1(218.144)]

일단 AGI의 정의가 다를 수 있다는 점이 있음. 알트만은 경제적 영향이 명확하면 AGI라고 부르려는 것 같음. 이것도 나쁘진 않은데, 노동해방이나 실질적 체감이 확실한거니까. 그리고, 설사 AGI가 재귀개선이 가능한 수준이어도 알트만은 천천히 발전시켜야 한다는 '느린 이륙'쪽이었음. 정렬 문제 때문에 그럼. AI가 인류멸망버튼 누를 수 있으니, 느리게 재귀개선 해야 한다. 하지만, 제대로 정렬하는 방법을 알려면, 최대한 많이 써보는 수 밖에 없다. 그러니, AGI까지는 최대한 빨리 도달하고, 도달하면 최대한 사용해보면서 AI를 이해하고, 이해한 내용을 바탕으로 제대로 정렬해서 확실히 안전 해지면 그때 ASI 이륙 버튼을 누르자. 이거일걸.

[ㅇㅇ 1(218.144)]

이 말이 AGI 도달하고 연구 개발 안 한다거나, 세상이 안 바뀐다. 이 말은 아님. AGI 써서 연구도 하고, 혹은 AI가 연구도 해서 지수적으로 발전하는 건 맞음. 하지만 사람들은 의외로 빠르게 적응할거고 당연하게 생각할거란 말도 자주 했었음. AI가 아보카도에서 제대로 그리기 시작하고, 국수도 못 먹던 녀석이 이젠 탑급 작가 학습하면 그걸 그려내는 수준이지만 사람들은 아직도 이거밖에 안 되냐고, 적응해버림. 물론, 알트만이 느린 이륙을 지지하고 있지만(사실상 빠른 이륙은 지지하는 사람이 없음. 빠른 이륙은 빠른 발전이랑 다른 말임) 알트만은 분명 사람들이 최대한 자주 써봐야 한다는 입장이라 일리야랑 힌튼한테도 공개적으로 욕 먹는 포지션임. 얘만큼 빠르고 + 대중에게 푸는 애도 별로 없음.

[ㅇㅇ 1(218.144)]

딥시크 이후에 욕 좀 먹지만, 상대적인거지. 딥시크 이전에 배포를 이끈 건 알트만이지. 얘를 느리다고 까는 건, 너무 과하다고 생각함.

[이세이미야케(jkwarawara)]

2035엔 단일 데이터센터가 인류 총합 지능을 뛰어넘는다고도 말했잖아.