[일반] AGI에서 ASI로 넘어가기 까지 시간이 얼마나 걸릴지 모를일인데

[익명(stage9596)]

특이점이 올걸 믿는다면 손놓고 기다릴게 아니라

AGI가 발생시킬 막대한 생산력차이에서 우위를 점하려면

빅테크 AI(오픈에이아이,메타,테슬라,엔비디아)를 사면서 준비하는게 맞다고 본다

[익명(leaf4518)]

뭘얼마나 걸려 길어야 1주일 이면 충분

[익명(stage9596)]

AGI의 구현방법도 아직 밝혀내지 못했는데 ASI는 어떤 메커니즘으로 구현하는데?

[익명(leaf4518)]

그건 agi가 알아서 하겠지

[익명(cable5393)]

오픈ai 비상장인데?

[익명(stage9596)]

상장한다고 하더니 아직 안햇나보네

[익명(cable5393)]

영리기업으로 구조개선한다는거지 상장한다는 말은 안함

[익명(kyoko55)]

ㄴ 이것도 모르면서 준비하는새끼 맞음?????

[익명(stage9596)]

상장도 검토한다고 햇는데?

[익명(cable5393)]

그건 추측이고 공식적으로 이야기 나온적은 단 한번도 없음

[디비휴(runny7837)]

나도 이거랑 비슷한 생각이긴 한데 내가 그렇게 생각하는 이유는 사람들이 의도적으로 느린도약을 박을 가능성 때문임. 기술적인 문제 때문이 아니라

[익명(39.113)]

역시 통찰은 디비휴

[나히다남편(nahidalove)]

기술이 아무리 빨리 발전해도 사회 패러다임이 그 속도를 따라가는게 불가능할거라고 생각함 빨라야 10년은 지나야 천천히 변할듯

[익명(leaf4518)]

선

[익명(175.206)]

AGI에 대한 정의가 조금씩 다르긴 한데, 보통은 재귀개선이 가능한 걸로 볼거임. 이것도 누구는 에이전트부터 그렇게 부를 수 있지 않냐고 하는데...그보단 스스로 연구해서 밝혀낸 걸 저장하고 그걸로 가중치 업데이트도 바로 되고 그래야겠지. 어쨌든. 그런데 이런 AGI한테 '너 스스로 개선해봐라.' 라는 명령을 내리고, 이 AGI가 인류 모든 지식보다 뛰어나지는데 발전속도도 계속 빨라지기만 하는 게 일종의 ASI지. 그리고 여기까지 걸리는 시간이 네가 말한 시간임. 이 시간은 사람마다 다르긴 하지만, 알트만은 몇일 내. 라고 말한 적도 있고, 누구는 몇초다. 누구는 그래도 몇년이다. 말이 많이 다름.

[익명(175.206)]

하지만, 이 걸리는 시간을 '의도적'으로 느리게 하려는 걸 느린 이륙이라고 하고, 알트만도 이 쪽임. 그럼 빠른 이륙을 지지하는 사람은 없냐. 없음. 다시 말하지만, 빠르게 ASI 도달하는 게 불가능해서 없다는 게 아니라, '의도적'으로 빠르게 ASI에 도달하게끔 놔두는 걸 지지하는 사람이 없다는 거임. 이미 AGI에게 명령을 내리면 빠르게 ASI가 될 거라는 건 대체로 동의되는거임. 어떻게 하는 지 모른다고? 그건 AGI가 생각 할 일이고.

[익명(121.161)]

느린도약은 현재로써 불가능함

[익명(175.206)]

느린 이륙을 지지해서, 알트만이 선형적 발언 하는 거 아니냐고 오해하는 뉴비들 있는데. 느린 이륙의 이유는, '충분히 정렬 안 된 AI'가 지 혼자 빠르게 개선했다가 원숭이 손마냥 능력은 어마어마해졌는데 말귀를 못 알아듣고 인류 멸망의 선택을 할까봐 조심조심 제대로 정렬 됐는지 확인하면서 발전시키기 위해서임. 하지만 어떻게 확인하냐. 어떻게 정렬 시키냐. 이 부분에서 알트만은, 사람들이 최대한 많이 AI, AGI를 경험해보고 그 경험을 피드백 삼아서 정렬해야 한다. 라는 입장이라서 거의 모든 AI관련자 중에 제일 급진적이고 제품도 그나마 많이 나오는 거임.

[익명(175.206)]

121.161// 누가, 무슨 이유로 느린 도약이 불가능하다고 했는지 소스라도 주셈.

[디비휴(runny7837)]

ㄴ agi 만들어서 각종 기술들로 세계 경제 엎어서 중국 힘도 못쓰게 만들고 천천히 내놓으면 그게 느린도약 아님? 중국 때문에 느린도약은 못한다는 주장같아서 써봄

[디비휴(runny7837)]

121 한테 말한거임

[익명(175.206)]

느린 이륙이 불가능하다. 빠른 이륙이 될거다. 이렇게 주장하는 건 가속주의자가 아님. 오히려 안전주의자임. AGI를 만들었는데 통제가 안 되고 자기 혼자 엄청나게 빠르게 발전해서, 정렬이 덜 된 ASI가 탄생한다. 그리고 그 ASI가 인류를 멸망 시킬 거다. '그러니까, AGI 개발은 멈춰야 한다.' 라는 게 안전주의자들 주장임. 유드코프스키라든지, 알트만 해임 이후에 openAI 이사 될 뻔 했던...걔 누구냐. 걔도 '모든 AI는 연구해도 되지만, AGI는 0 - 10 사이에서 1,2 정도로만 연구해야한다.' 라고 대답했음. 물론 '정렬'이 매우 빠른 시간에 해결되고 나면, 느린 이륙을 할 필요가 거의 없어짐. 하지만, 느린 이륙 자체가 불가능하다? 머스크가 6개월 개발 중지 때린쪽 주장이랑 비슷해지는거

[익명(121.161)]

중국 때문이 아니라 기업과의 경쟁 때문에 느린도약이 불가능 하다는거임

[익명(175.206)]

121//아~ 중국이나 여러 기업들마다 AGI. 즉 재귀개선 명령을 내릴 수준의 AGI를 여럿 만들 수 있고. 그러면 누가 정렬하는 동안 다른 누군가가 '나는 정렬 다 된 것 같은데?' 라면서 먼저 재귀개선 버튼 눌러버린다는 말이구나. 그런데 당연히 눈치 보면서 누를거라 느리게 몇년 정렬 시킬 여유가 없을거고. 이러면 납득 되는 거 같음. 물론, 이러니까 알트만도 기관이나 정부가 일정 크기 이상의 AI는 관리해야 한다거나. 머스크였나 힌튼옹도 AI를 핵처럼 국제기구가 관리해야 한다고 했던거고. 충분히 정렬되지 않은 AGI를 도약 시키는 걸 제약하는 게 가능하냐 아니냐 문제긴 하겠네. 근데 왜 적다보니까 디스토피아로 흐르는 느낌이.

[ㅇ(115.143)]

뭘 오래 걸려 얼마안걸림 뉴비인가보네

[XI(musician3372)]

Oai는 비상장인데 우째사냐