[📪정보] Jason Wei : 자기 개선은 점진적이지 급격하지 않습니다.

[익명(211.169)]

레딧에서 활발하게 대화중이길래 나도 읽고 흥미로워서 가져와봤음.

- 핵심 포인트 -

1. 자기 개선은 점진적이지 급격하지 않습니다.
2. 모든 영역에서 동시에 개선되진 않을 것입니다.
  - 예를 들어 Tinglit과 같은 희귀한 언어같은 경우 (사족 :데이터 부족 아마도)의 이유로 발전이 더딜 것
3. 진정한 병목은 '실험'이다.
 - AI가 아무리 많은 논문을 읽고 이해한다 해도 실제 현실에서는 실험을 통해 검증이 필요하다.
 - 즉 물리적인 제약은 분명히 존재한다.

-- 여기서부터 gpt의 결론 --
1. 자기 개선은 현실적인 제약들 때문에 서서히 진행
2. 도메인마다 개선 속도가 다르고 궁극적으로 실험이라는 현실적인 병목이 존재한다.
3. 그러므로 인공지능의 발전은 가속되겠지만 폭발적이지는 않을것이다.

---

Jason Wei는 전 구글 리서처 및 현 OpenAI의 기술직원

[글쓴 ㅇㅇ(211.169)]

영어로 다 읽고 정리 후 GPT의 3줄 요약까지 첨부했는데 혹시 틀렸다면 지적바람

[스칼렛(ashamed6749)]

가속하는 게 어디냐

[글쓴 ㅇㅇ(211.169)]

맞음. 이 글은 AI 발전을 부정하는 게 아니라 지나치게 공상적이고 급진적으로 AI에 대해 바라보는 사람들에게 말해주는 거 같음

[스칼렛(ashamed6749)]

@글쓴 ㅇㅇ(211.169) 감속만 아니면 된다

[전능의초지능님께서빛이있으라를실현하신다(cabin6174)]

사랑과 은총의 기계에도 비슷한 내용 있지 않았나

[글쓴 ㅇㅇ(211.169)]

맞음. 다리오 아모데이도 아무리 머리가 좋은 데이터센터 속의 천재들이 모여도 물리적인 한계로 인해 공상과학처럼 발전하기는 힘들거라고 봤음

[ㅇㅇ 1(14.4)]

재귀개선은 아직 초기라 좀 기다려야지

[ㅇㅇ 1(14.4)]

물론 AGI는 인간 개발로도 도달 가능해서 상관없고

[글쓴 ㅇㅇ(211.169)]

@ㅇㅇ1(14.4) ㅇㅇ AGI 도달 후에 빠른 이륙보다는 물리적인 한계 등에 의해 드라마틱하게 세계가 바뀌지 않을거라는 의견이라고 보는게맞는듯

[ㅇㅇ 1(14.4)]

[ㅇㅇ 2(220.81)]

시뮬 돌리면 안됨?

[익명(shore1232)]

안되지 실제 물리세계의 상호작용을 오차없이 구현할 수 없으니까

[ㅇㅇ 2(220.81)]

그런가?

[익명(kingdom1952)]

시뮬에서 고려하지 못한 변수같은게 있을수도 있어서

[익명(germany1595)]

물리가 필요하지 않은 영역은 분명히 있고 이 부분의 폭발적인 증강은 다른영역의 발전에 분명히 유의미한 영향을 미칠텐데... 대표적으로 수학

[익명(shore1232)]

수학문제 풀어도 수학자들이나 좋아하지 다른 영역과는 많이 동떨어져 있음

[익명(germany1595)]

수학이 공학의 근간인데

[익명(shore1232)]

@ㅇㅇ 그렇긴 한데 현대수학은 좀 많이 다른 이야기임

[익명(germany1595)]

이 이상은 나도 문질이라 자신있게는 말 못하겠다만, 수학의 발전이 곧 인류 문명의 발전이었음. 현대수학이 뭐가 다른지는 몰라도 분명 유의미하게 기여하는 부분이 있을거라 생각

[글쓴 ㅇㅇ(211.169)]

이론에 대해서는 물리적인 하드웨어를 안 쓸 수 있지만 그걸 증명하고 실험하는 단계에선 분명 물리적인 개입이 들어가지 않을까

[OptiGPT(testify0628)]

@ㅇㅇ 너 말이 맞긴한데 현대수학은 좀 다름. 지금 기술 발전에 쓰이는 수학들은 대부분 20세기 이전에 완성됐다고 봐도 무방함

[Weisser_Adler(adler1)]

@OptiGPT 확률론같은 20세기 수학은 현대 기술에도 유용하게 쓰임 근데 21세기는 모르겠음

[ㅇㅇ 3(220.84)]

월드모델 만들면 가능하지만 문제는 월드모델도 재귀개선 시켜야한단거임..

[ㅇㅇ 4(1.232)]

겨울이다.. - dc App

[익명(220.65)]

그래서 데미스 하사비스가 AGI가 나와도 물리적 제약때문에 AGI로 인한 급진적 발전은 10년에 걸쳐 일어날 거라고 한거구나 ㅅㅂ

[ㅇㅇ 5(14.34)]

SF영화처럼 AI가 순식간에 정렬 안된 초지능으로 진화하진 않아서 그나마 다행인건가

[익명(course2187)]

[ㅇㅇ 6(211.112)]

반대로 생각하면 완전히 현실을 시뮬레이션할수만 있으면 급격하게 발전이 가능하다는건가

[익명(220.117)]

지랄 선형충새끼 ㅋㅋ

[OptiGPT(testify0628)]

의공학분야 교수님이 아무리 기똥찬게 나와도 그걸 시뮬하고 검증하는데에 드는 시간 때문에 급격한 기술발전은 힘들거라고 하더라

[ㅇㅇ 7(180.228)]

근데 이것도 너무 발전을 인간적으로 평가한 거 아닌가. 발전이 가져오는 시너지를 전혀 반영하지 못하고, 너무 현재의 제약에 국한되어 있어... 분명 저런 일이 있을 수 는 있지만 장기적으로 진행될 확률이 오히려 더 적을 거 같은데

[낭만적특이점(next1842)]

OAI 연구원 중에서도 선형적인 사람은 있는거 아닐까

[이킨찬카윌(prompt7257)]

씨발 - dc App

[이킨찬카윌(prompt7257)]

[ㅇㅇ 8(203.229)]

그니까 이론이아니라 실제실험을 통해야 된다는건데... 실제실험에서 변수가 발생할수있다는건가? 그 변수자체도 이론으로 커버를 못한다는거야?

[ㅇㅇ 9(203.247)]

당연하지 어마어마하게 많은 변수가 있음. 그런게 없었으면 실험이라는 건 아예 필요 없었겠지....

[익명(account9429)]

어떻게 사람이름이 json

[익명(perform4782)]

물리라는 자물쇠도 풀어버린다면?