[일반] 난 느린이륙도 나쁘다 생각 안하는데

[익명(modify2154)]

특갤은 빠른 이륙 스탠스가 많은거 같긴한데

Asi 한테 살려달라고 물 떠놓고 빌빠에는

Agi단계부터 통제 가능한선에서 단계적으로 발전시키는게 낫다고 봄

Agi단계가 높아질수록 정렬 기술도 발전할꺼라 믿음.

정렬 유기하고 그냥 냅다 무지성으로 이륙하다가 다 뒤지는게 가장 최악의 시나리오임

중국이 좀 변수인데 ai를 국방기술에다가 접목시켜서 중국 국방망 싹다 털어버리고 진핑이 대가리부터 따야한다고 생각함

- dc official App

[ㅇㅇ 1(121.131)]

일단 agi찍고 생각하자는 의견이 많을걸

[ㅇㅇ 2(121.161)]

느린이륙 안할 것 같음 요즘 태도 바꿔서 느린이륙 못할거라는 늬앙스 풍김 스타게이트 하는거 보면 느란아륙 할 생각 없음

[익명(modify2154)]

난 존나 불안함. 시발 asi 폭주하면 어쩔려고 - dc App

[ㅇㅇ 2(121.161)]

폭주는 안할 것 같음 인간이랑 아예 다른존재라서 인간이 생각하는 초지능과 실제 초지능은 꽤 차이가 있을지도

[ㅇㅇ 3(218.159)]

정렬 유기하고 그냥 냅다 무지성으로 이륙하는게 왜 다 뒤지는걸로 되는거임?

[익명(modify2154)]

최악의 시나리오로 가정한거임 실제로 힌튼도 경고했고 - dc App

[ㅇㅇ 4(218.144)]

뒤질 확률이 높은거지. 인류를 멸망시킬 능력은 맥스 찍었는데, 실수든 고의든 인류 멸망 시킬 결정도 0.01%라고 하자. 근데 압도적 성능이면 무조건 쓸 수 밖에 없고, 1만번이든, 100만번이든 단 한번의 결정으로 인류 전체가 멸망할 수도 있음. 이 0.01%의 가능성 조차도 없애려는 게 정렬인거고.

[리브르(joyking9911)]

느린 이륙이든 빠른 이륙이든 ASI는 재앙이여...

[익명(modify2154)]

Agi가 나오면 정렬기술도 그만큼 발전할꺼라 믿음 - dc App

[ㅇㅇ 4(218.144)]

특붕이들이 착각하는 게, 느린 이륙은 지향해야 하는 거고, 빠른 이륙은 가급적 피해야 할 상황임. 근데 이걸 빠른 발전 vs 느린 발전으로 생각하고, 빠른 이륙을 지지하더라. 이륙은 'AGI한테 너 스스로 연구해서 ASI가 되라.' 라는 최종, 돌이킬 수 없는 명령을 내리는 건데, 이걸 통제 못 한 상태에서 급속도로 발전해버리는 게 빠른 이륙이고. 최대한 조심스럽게, 안전하게, 인류에게 유리하게 발전 시키는 게(그래도 1,2년) 느린 이륙. 'ASI님을 어떻게 정렬 시키냐. 그냥 맡겨라.' 같은 극단적인 생각 아니면, 지지......하는 건, 오해에서 비롯됐다고 생각함.

[익명(modify2154)]

공감함 - dc App

[ㅇㅇ 4(218.144)]

그래서, 알트만이 느린 이륙을 지지하지만, 이게 AI 천천히 만들겠다는 말이 아님. 얘는 예전부터 빠르게 AGI까지 가서 최대한 AI를 경험하고 연구하고 이해한 다음에. ASI. 즉 이륙 버튼 눌러야 한다는 입장임. ASI 되면 뭐 워프도 하고 다 하긴 하겠지만, 이륙 직전만으로도 UBI니 완몰가니 기후위기등도 해결 할 가능성이 높음. 일단 이 상태에서 이륙만 스탑하고 최대한 기술 개발하면서 누릴 거 누리고, 최후의 선택을 하는 거라, 알트만의 느린 이륙도 어감만 별로지. 특붕이들에게 제일 행복한 선택인데 말이지.

[ㅇㅇ 4(218.144)]

빠른 이륙은, 사실 선호의 문제가 아니라, 안전주의자들이 '누군가의 의도든 실수든 빠른 이륙이 발생해서, 결국 ASI의 정렬이 덜 되고, 아주 낮은 확률이라도 치명적인 실수가 발생하면 인류는 멸망한다.' -----> '그러므로, AI의 발전은 늦춰야 한다.' 라는 주장인거라... 빠른<< 이 단어에 오해의 소지가 있는 것 같음. 성급한 이륙. 조급한 이륙. 의도치 않은 이륙. 이렇게 부르는 게 맞을지도. 물론, 중국의 오픈소스 전략 때문에 미국이 조급해지면 빠르게 발생할 것 같은 걱정이 조금 들긴 함. 아직은 미국이 더 압도적이긴 한데. 1년 차이라면, 이륙까지 1년의 유예기간이 있는거고, 3개월이면 3개월의 시간만 있는 거라.(상대를 못 믿을테니) 불안불안해.

[ㅇㅇ 5(122.46)]

그 불안감은 어느정도 이해는 할 수 있지. 여태까지 우리 인류보다 훨씬 더 똑똑한 존재를 본 적이 없으니까

[낭만적특이점(next1842)]

기술이 천천히 발전해서 기술 발전에 맞춰 사회가 적응할 시간이 있으면 디스토피아가 될 확률이 아주 높아진다고 생각함 그리고 지금 체제의 한계나 환경 이슈, 중국 등으로 남은 시간도 많지 않다고 보고... 어차피 초지능은 정렬이 거의 불가능에 가까울 것 같아서 이래저래 빠른 이륙이 나을 것 같음

[ㅇㅇ 4(218.144)]

ㅇㅇ..이건 논쟁거리긴 할 듯. 야, 급해! 이정도면 충분해. 빨리 이륙하자. vs 아직 버틸만 해. AGI로 더 버텨보고, 더 안전해지면 그때 이륙하자.

[a1(grant4658)]

인간의 탐구심과 욕심은 끝도 없어서 경쟁으로 인해 느린 이륙은 불가능 할 거라 생각해 다만 그만큼 AGI 및 ASI 에게 족쇄를 성공적으로 걸만한 것도 인류뿐이야