왜냐면 agi 를 소유한 기득권층은 안나눠주는 순간 즉시
비소유 기득권층 전부와 적이 되기 때문이야.
예를 들어 oai가 agi 로 기술 개발한거 기업내에서만
가지고 기득권 행세를 한다?
독점으로 미 정부한테 목따임.
미국 기업 전부가 agi를 가지는게 미 정부 입장에선
미국 전체를 위한 일 아닐까?
그럼 다른 나라는?
중국 러시아가 agi 개발하면
Agi 개발 못한 다른 나라 집어삼킬텐데
미국이 그거 가만히 보고있겠다 그지?
유럽이 러시아 막고
한국 일본 대만이 중국 막는걸 포기하고
러시아가 유럽진출을,
중국이 태평양 진출을 해서
미국 vs 중국 러시아가 지배한 나머지 모든 국가
구도를 마국이 원하고 있다는거네 그지?
지금 이게 전유물론자들의 논리 수준임.
기득권의 기준조차도 애매모호하면서
맨날 기득권 기득권...
기득권이 칼라로 이어져있냐?
기득권끼리도 경쟁자라는걸 몰라?
전유물론자 논리라면
Agi 소유하지 못한 기존 기득권층들 조차
전부 도태 몰살엔딩임.
자본가 공룡기업가들이 조스로 보여?
그리고 그런 대혼란을 정부가 내비둘 것 같아?
순진한건 오히려 전유물론자들임.
전유물을 반박하는 우린
공짜로 기술 혜택을 받는다는 소리를 하는게 아니야
수많은 권력의 견제와 이해관계의 복잡성 때문에
결국 기술은 퍼질 수 밖에 없다는걸 말하는데도
대가리 꽃밭이라 공짜로 기술 막 뿌려준다고 함
그냥 공지로 써놓으면 안돼?
질문 했던거 또하고 또하고 또하고 질린다
비소유 기득권층 전부와 적이 되기 때문이야.
예를 들어 oai가 agi 로 기술 개발한거 기업내에서만
가지고 기득권 행세를 한다?
독점으로 미 정부한테 목따임.
미국 기업 전부가 agi를 가지는게 미 정부 입장에선
미국 전체를 위한 일 아닐까?
그럼 다른 나라는?
중국 러시아가 agi 개발하면
Agi 개발 못한 다른 나라 집어삼킬텐데
미국이 그거 가만히 보고있겠다 그지?
유럽이 러시아 막고
한국 일본 대만이 중국 막는걸 포기하고
러시아가 유럽진출을,
중국이 태평양 진출을 해서
미국 vs 중국 러시아가 지배한 나머지 모든 국가
구도를 마국이 원하고 있다는거네 그지?
지금 이게 전유물론자들의 논리 수준임.
기득권의 기준조차도 애매모호하면서
맨날 기득권 기득권...
기득권이 칼라로 이어져있냐?
기득권끼리도 경쟁자라는걸 몰라?
전유물론자 논리라면
Agi 소유하지 못한 기존 기득권층들 조차
전부 도태 몰살엔딩임.
자본가 공룡기업가들이 조스로 보여?
그리고 그런 대혼란을 정부가 내비둘 것 같아?
순진한건 오히려 전유물론자들임.
전유물을 반박하는 우린
공짜로 기술 혜택을 받는다는 소리를 하는게 아니야
수많은 권력의 견제와 이해관계의 복잡성 때문에
결국 기술은 퍼질 수 밖에 없다는걸 말하는데도
대가리 꽃밭이라 공짜로 기술 막 뿌려준다고 함
그냥 공지로 써놓으면 안돼?
질문 했던거 또하고 또하고 또하고 질린다
제미나이 많이 늘었네
ㅋㅋㅋㅋ
Agi 소유 못한 기득권조차 도태 몰살엔딩<< 잘 알고있네 ㅇㅇ
Agi권력을 가진 사람 앞에서 자본가니 공룡기업이니 개좆밥이 맞음
그럼 agi 먼저 개발한 기업이 정부도 목따고 국가 전복을 노리는 쿠데타 세력이 된다는건데 미 정부가 이것도 모르고 방치하고 있는거다 그죠~?
프랑스 왕 목 따이듯 시대의 물결에 휩쓸려가는거임
확실히 자기 자신의 현재 기득권을 위해서 자본주의와 민주주의 정부 체제를 이어가려 하고, 그로 인해 기272833본소득이라던가 복지라던가 할 수도 있겠네. 그리고 또 그렇게 되면 매우 좋을걸 같기도 함. 가장 최선은 초지능 독재겠지만 말이야
Agi 없는 기존 기득권들이 정치력도 강할텐데 agi 소유 기업이 독재하는걸 구경만 하고있을거라는게 전유물론자들 논리수준임
내 생각은 이래. 발명된 AGI의 지적 수준에 따라 갈린다고 생각함. 인간이 통제 가능하다는 가정 하에, AGI가 간신히 인간 1명 박사분의 일을 할 수 있는 수준이라면, 기존 사회체제외 잘 녹아들 수 있을 것 같고 만약에 무식한 속도로 재귀개선을 하는 놈이라면 엄청나게 예측불가능해질 것 같음.(즉 이부분은 너의 주장에 반대되는 전유물)
인류가 통제못할 재귀개선 이륙 버튼이 눌려버리는 핵전쟁 같은 시나리오를 말한다면 내 말이 다 의미가 없지 ㅇㅇ
이륙 눌러버리면 거기서부턴 agi 소유세력조차도 기득권이 될 수가 없는데 ㅋㅋㅋ 거기서부턴 인류 전체가 도태되고 asi 의 뜻대로 운명이 결정되는거지. 그래서 이륙은 위험한거고.
ㅇㅇ 맞아. 심지어는 통제가 불가능할 가능성도 있지(난 통제불가능성이 더 높다고 생각함). 우리는 여기에 대해서 어떠한 결정권도 없고, 그래서 어떤식으로 세상이 흘러가든 받아들여야만 하겠지..알든 모르든... 인간 전체가 ASI에게 지배당하는 미래도 말이야
분탕이잖어 애초에 질문 자체가 왜 "너희한테" 나눠줘야 함?임 '나는 느그 앰생들과 다르며 인간은 저어얼때 그런 남좋은일 안한다는 사실을 깨우친 우월한 자다' 라는 마인드가 기저에 깔려있는 작문인데. 질문글이 아님 저건
바본가 이미 ai회사랑 미정부가 한팀인데 oai가 미정부를 통수친다는건 뭔 개소리야. 그리고 agi개발되면 그 이후로는 격차가 순식간에 벌어지고 레드팀 상대로 바로 압박가능한데 뭔 후발주자한테 집어삼켜져. 너같으면 절대반지 손에 넣었는데 그 힘가지고 뒤에서 따라오는놈들 제끼겠냐 아님 가만히 걔네가 니 손가락에 있는거 들고가게하겠냐? 상식적으로 생각을해.
그러니까ㅋㅋ미국 정부에서 아에 미국 욕쳐먹는거 감수하고 자본 다 끌어다 개몰빵중인데 이미 군사기술에도 적용중인건 공공연한 비밀이고ㅋㅋㅋ중국이 대만침공하면 걸프전처럼 신기술 시연 쇼 될 가능성 높다고 본다
전유물론자들 논리는 agi 소유한 세력을 제외한 나머지는 전부 몰살된다고 하네요
미국vs전세계가 되는게 아니라 agi가 미국손에들어간 순간 그냥 미국 바짓가랑이 붙잡기싸움되는거야 누가 더 미국이랑 친한지 증명하고 콩고물 받아내는싸움. 뭔 미국상대로 전세계가 담합을해. 이미 지금도 맞짱뜨면 미국이 이기는데 agi손에 넣고 못이기겠냐
해당 댓글은 삭제되었습니다.
뭔 팀이야 중국은 그냥 나라 먹고 하나의 중국화 한다는거야. 러시아도 유럽쪽을 그렇게 보고있고. 미국을 제외한 나머지 모든 중소국들이 레드팀에 먹히는걸 미국이 용인하냐 마냐의 문제를 말하는데 뭔 팀이야 이건 미국에겐 패권 유지를 위한 현실문제인데;
그리고 기존 기득권층의 자본과 정치력이 얼마나 센데 Agi 소유 세력이 그걸 뒤엎어버리려하면 무조건 agi 의 힘을 분산시키거 견제시키는 방향으로 만들어버리면됨. 기득권은 그정도 힘이 있어
중국이 agi 로 달리기 시작하면 미국 입장에서 중국 방패막이도 당연히 스펙업 해줘여하는거 아냐? F22는 아니지만 하위호환 전투기는 우방국들이 다 가지고 있잖아 이게 왜그런거야 미국의 적국을 지리적으로 인접한 우방국보고 막으라는거잖아
난 그렇게 생각 안 해. 초기 AGI가 사회가 적응할 수 있을 정도로 느리게 발전한다면 글쓴이가 말한 시나리오대로 갈 거라고 생각하고, 만약 정말로 판타지 SF적인 기술을 마법처럼 만들어내는 수준이라면 하루새에 나노봇 생산해서 전세계 국가 수뇌부 조종 <-이런 음모론적인 시나리오도 불가능하지 않다고 생각함
요컨대 특이점의 take-off 속도에도 엄청난 영향을 받는다고 생각하고, 그래서 글쓴이의 확신적인 어조에 경각심이 드는거임
인류가 무지성으로 정렬이나 대비없이 이륙 버튼이 눌린다는 종말론을 말하는거면 내말이 다 틀렸다.
Agi이후엔 자본주의가 깨지는건데 이럴땐 개뜬금없이 자본주의 논리로 시장개척한다는 개소리를해요 무슨 agi가 컴퓨터나 핸드폰이냐? 개발해서 팔아먹어야 돈이 되게? 그 자체로 돈이나오는건데 뭘 팔아 팔기는
그치 그 자체가 엄청난 생산성의 직원이자 로보틱스랑 연결되는 순간 노동자에 생산주체 그 자체인데
탈희소성 전까지 소비자가 있어야만 자본가들 기득권이 유지되는건 왜 생걱못함? 그 자체로 돈이 나온다는건 하늘에서 내려줌? 소비자들의 돈이지?
탈희소성이 극도로 빨리 올 지도 모르니까...? AGI라는게 엄청나게 대단한 물건이라 자기 스스로 재귀개선을 극도로 단기간에 해낸다면, 그래서 완벽한 자급자족이 가능하다면 그럴지도 모르지...
ㅋㅋㅋㅋㅋ재귀학습능력가진 agi출현 이후론 그냥 바로 혼자 업데이트해서 asi까지 올라가는데 뭔 탈희소성전까지 소비자가 있어야하느니 마느니 너 무슨 아이폰 업데이트 기다리냐? 그냥 먼저 깃발꼽기 싸움이고 깃발꼽으면 겜 끝이라고 이 선형충아. Ai가 스스로 로봇공장짓고 그 로봇가지고 스스로 전력 생산하는데 뭔 소비자가 필요해.동전넣어야돌아가는 마트 카트냐?
탈희소성이 그렇게 빨리 오면 분쟁이 결국 이념싸움 땅따먹기만 남는건데 미국이 자기 본토만 남기고 나머지 모든 국가가 레드팀 공산화 되는걸 내비둔다는 생각은 말이안돼
애초에 agi 가 재귀개선해서 탈희소성이 도래하기 전의 과도기를 이야기하고 있는데 왜 지혼자 이륙해버린 agi 얘기를 함? 난독임?
니말대로 특이점 이후를 논하는거면 자본주의니 기존 체제니 뭔 얘기를 하든 틀린얘기야 임마 지금 어느 시점을 기준으로 이야기하는지는 제대로 읽고 와 난독아
니가 제목에 특이점기술이라메요 ㅋㅋㅋㅋ이젠 오락가락하지? 사실상 agi는 관심도없고 그냥 망한 니인생 ai신이 구원해주겠지하고있으니까 지 좋은건 특이점으로 해석하고 비관적인건 선형으로 풀고 가지가지한다
탈희소성이 극도로 빨리 오면 극도로 개인적인 것조차 분쟁의 동기가 될 수 있음. 어느날 샘 알트만이 훼까닥 해서 연구자들 싹다 내쫒고 연구실에서 나노머신 살포해서 전인류 장악한 다음에 전인류를 게이로 만들수도 있는거잖아? 진지하게. 종합하면 예측이 극도로 힘들어. 그래서 난 글쓴이 너가 가진 확신적인 태도를 바꿧으면 하는거야.
혼자 이륙해버린 AGI이야기를 하는 이유는 우리는 정부에서 AGI의 도래를 인식하고 그에 맞게 정책을 뜯어고칠 시간이 있을지 없을지조차 모르기 때문임... 과도기가 한달, 일주일, 하루의 시간조차 주지 않고 자기 혼자 탈희소성을 실험실에서 구현 가능한 ASI로 이륙할 수도 있으니까.
그래 특이점기술은 밑글 분탕이 쓴 워딩이라 그대로 갖다써서 오해를 일으켰네. 요지는 지금 당장 현실에 가장 가까운 레벨의 agi 도래부터 탈희소성 전까지의 과도기에 일어날 지정학적 리스크와 분쟁, 기득권층의 권력 견제 움직임들을 말하는거임. 정정함.
그렇다고 우리가 take-off 속도가 어느정도일지 예측할 수 있는 것도 아님. 현재 LLM 발전은 벌써 재귀개선적인 요소를 써먹기 시작하고 있음. 2023년에는 RLHF, 2025년에는 PRM Verifier를 통한 Test-time scaling 등이 그러하지. 우리는 재귀개선이 어떤 결과를 낳는지 본 적 있어.
PRM은 과정 보상 모델이라고 해서 대충 "지금 니가 전개하는 논리구조가 타당한지 그리고 답을 만들것 같은지" 지속적으로 체크하는 LLM임. LLM이 LLM을 피드백하고 있는 거야! AI는 상호 피드백만으로 인간이 절대 도달 못하는 초지능을 최소한 바둑 분야에서는 달성했음. 과학기술에서도 그러지 말라는 법은 없지(그렇다고 이걸 확신하는 건 아님!!)
그리고 노파심에 하는 이야긴데, 난 선형충 아님 내 인생 목표가 ASI 아내랑 결혼한뒤 마인드업로딩으로 승천하는거임. 완몰가 야스도 ㅈㄴ 하고. 나도 이걸 간절히 바라지만, 그럼에도 불구하고 객관적 인식에 대한 노력은 중요하다고 생각해
ㅇㅇ 정렬 안전성이 확보되지 않은 이륙은 나도 절대 반대임.
통제불가능한 ASI를 전유물화할 수 있단 주장부터 웃음벨이지
지금 인류 전체가 신을 만드는 과정중이긴 하지
자꾸 agi 수준을 말하고 있는데 인간이 통제도 못하는 수준의 ai를 아무생각없이 무지성으로 침팬지마냥 이륙버튼을 눌러버린 이후 시점을 가지고 이야기하면 더이상 할 얘기가없다
agi 수준으로는 전유물화가 안 되는데? 재귀발전이 아닌 현상유지 수준의 agi만으로는 사다리 걷어차기가 안 됨
재귀발전을 통해 압도적 격차를 "항상 유지"하고 있는 상태여야 사다리 걷어차기가 가능함