그래야 세상이 바뀌니까
[일반] 나는 완몰가 몇몇부분 규제하면 시위할거임
익명(39.7)
2026-01-02 21:13
추천 3
댓글 35
다른 게시글
-
본인 완몰가 메인세계 [4][장문 상상] 익명(xxme91005) | 01.02추천 13
-
보닌 완몰가 여자친구…jpg [5][일반] 트랄랄레로..(hobby8393) | 01.02추천 4
-
근데 완몰가 나와도 규제는 존재할수밖에 없지않을까 [24][일반] 완붕이(122.42) | 01.02추천 0
-
완붕이들 새해 복 많이 받으세요 [3][일반] 트라야누스(59.10) | 01.02추천 2
-
완몰가<<생각보다 무서운듯 [1][일반] 완붕이(1.231) | 01.02추천 1
-
와이푸가 얼마나 자유의지를 가졌으면 좋겠음? [8][단문 상상] 버터코미(fright9735) | 01.02추천 1
-
근데 완몰가가 뭐임? [4][일반] 익명(softly7117) | 01.02추천 2
-
마법 아카데미에 입학할거야... [2][단문 상상] 순수아나키..(sneak6969) | 01.02추천 5
-
난 완몰가 나오기전에 일단 완벽한 오픈월드 게임이라도 해보고 싶음.. [1][일반] 익명(182.213) | 01.01추천 6
-
맛있는 걸 잔뜩 먹고싶네요 [17][단문 상상] 천상열차(annoy6122) | 01.01추천 5
규제도 구시대적 발상이 될거라고 생각함 특갤논리대로면 기득권이 완몰가를 뿌리는건 값싸고 효과좋은 통제수단이기 때문인데, 치안강화로 개인 취향 규제명분도 떨어지고 장기적으로 봤을때 굳이 규제할 이유가 없음 대놓고 규제 안한다고 선전은 안하더라도 사실상 손놓는 방향으로 흘러가지 않을까 생각함 - dc App
완몰가 규제와는 다른 얘기이지만 난 기득권이 모든 힘과 권력을 독차지 하는 것은 매우 위험하다고 생각함 우선 "값싸고 효과좋은" 이라는 부분도 회의적인데 완갤에서 말하는 완몰가 특성상 연산량이 매우 많이 들거임 그만큼 에너지 소모도 엄청 많을 거고 그래서 완몰가가 값싸다는 것은 납득하기가 어려움
물론 기술이 발달해서 완몰가 비용 즉 엄청난 연산량과 에너지 수요도 간단하게 해결할 수 있는 시대가 올 수도 있을 거임 하지만 그만큼 기술이 발달한 사회라면 사람들을 없애는 것도 아주 저비용으로 가능할 거임
기득권은 그 부분에서 계산기를 두드릴 가능성이 큼 사람들에게 완몰가를 공급하는 것이 더 비용이 적게 들어갈 것이냐 아니면 사람들의 수를 줄이는 것이 더 비용이 적게 들어갈 것이냐를 말이지 완몰가를 공급하게 된다면 아까 말했던 연산량과 에너지 수요 뿐 아니라 유지관리에도 비용이 들어가는만큼 사람들의 수를 줄이는 쪽이 더 저렴하다는 판단을 할 가능성이 큼
그래서 난 특갤 논리 그러니까 기득권에게 모든 걸 맡기자는 논리는 매우 위험하다고 생각함 물론 평등을 바라지는 않지만 적어도 기득권이 그런 판단을 할 때 우리도 우리 나름대로의 견제 수단이 있어야 한다고 생각함 그래야 기득권 입장에서도 완몰가를 뿌리는 것이 더 저렴하고 이득이 크다고 생각할 테니까
@완붕이1(220.116) 사람수를 줄이는건 단순 비용이 아니라 사회적 리스크를 발생시켜서 애매함 한 시기로 단축하지 말고 장기전으로 이해해야해 초기에는 기득권도 자본주의를 유지하려고 UBI로 수혈하면서 폭동 막는건 거의 기정사실이고, 그때 완몰가는 당연히 비싸고 전유물일거임 그런데 시간이 갈수록 레커말대로 기하급수적으로 생산성이 폭증할거고, 많은 전문가들의 예측대로 완전한 의미의 ASI통제는 불가능할거라 좋은 의미던 나쁜 의미던 인간 지배층은 점차 은퇴하게 될거임 - dc App
@완붕이1(220.116) 그 시기에 ASI가 인간을 윤리적으로 살려두든, 리스크 헷징으로 살려두든 호의에 가까운 쪽인 미래로 흘러간다면 완몰가는 값싸고 효과좋은 통제수단이 됨. 이 문장에서 기득권은 ASI거나 ASI에게 사실상 휘둘리는 인간집단일거고 - dc App
@완붕이1(220.116) 너말대로 완몰가가 계속 비싸고 AGI를 약간 개선한 그 어디쯤에서 사회가 계속 표류한다면 가능한 얘기긴 한데, 그럴 가능성이 너무 낮으니 걱정할 이유가 없음 여기서 다른 갈래로 뻗어간다면 커즈와일 말대로 인간임을 포기하고 트랜스휴먼으로 진화해서 기득권(ASI던, 인간이던)으로부터 권리를 지켜야지 - dc App
@완붕이1(220.116) 완몰가 자체는 극한으로 최적화하면 100억명 유지비 자체는 ASI 입장에서 진짜 개미 눈물만큼도 안됨. 너말대로 죽이는것도 딸깍이겠지만, 기존 가치함수에 반하는 문제라서 꺼리거나 그정도면 보관비용으로 적절하다는 결론에 도달할수도 있지. 물론 몰살도 가능성있는 선택지긴 한데, 마냥 비관만 할 필요는 없음. 트랜스휴먼이 되거나, ASI에게 끝까지 인간으로 사육당하거나 크게 둘 중 하나일거라고 생각함. - dc App
@완붕이1(220.116) 앞서 말한 사회적 리스크는 기득권 내부도 결국 인간집단이라는거고, 계산기 두들기다가 몰살이라는 선택지는 정치적 정당성 훼손, 내부분열 가능성, 세계적 외교질타, 악마화를 고려했을때 기득권 입장에서 썩 내킬만한 선택지는 아니긴 함. 불가능한건 아닌데, 되게 멍청한 선택지임. - dc App
네 의견을 들어보니 흥미로운 것 같아 하지만 이게 약간 우리 의견이 정합이 이루어지는 것 같지는 않아 이건 내가 너무 두루뭉실하게 의견을 전달해서 그런 것 같네 그래서 내가 우려하고 있는 부분에 대해서 구체적으로 적어볼게 너가 꼭 답변을 할 필요는 없고 답변을 하지 않아도 돼 내가 이것을 쓰는 이유는 내가 우려하고 있는 부분을 너에게 좀 더 잘 전달하기 위
해서니까 구체적으로 말하면 지금 ai를 주도하고 있는 기업은 오픈ai, 구글, x, 엔트로픽 이정도가 될 것 같아 여기서 솔직히 말하면 난 구글하고 x는 ai 경쟁에서 패배했으면 좋겠어
내가 레딧 디구글 채널에 가끔 들어가서인지 잘 모르겠지만 구글은 자신의 이익을 위해 사용자의 자유를 억압하고 있어 대표적인 예시로 크롬을 쓸 때 ublock origin을 쓰지 못하게 하거나 안드로이드 스마트폰에서 외부 앱 설치를 금지하려고 하고 있어 사용자는 외부 앱을 설치할 자유가 있고 광고를 안볼 자유가 있는데 구글은 자신의 독점적 지위를 이용해 사용
자의 자유를 억압하고 있는 거야 마찬가지로 x 같은 경우에는 최근에 돌고 있는 이미지 수정 기능 이것 때문에 딥페이크 관련된 것도 생기기 시작하고 피해자도 생기기 시작했지만 일론 머스크는 이를 무시하고 있어 이것은 아무리 항의해봐도 x를 계속 쓸거라는 생각에서 비롯된거지 즉 빅테크 기업들은 독점적 지위를 이용해 지금도 사용자의 자유와 권리를 침해하고 있는거
야 자신들의 이익을 위해서 말이지 그렇다면 구글이나 x가 힘과 권력을 모두 차지하고 나머지 인간들이 경제적으로 정말 쓸모 없는 존재들이 되었다고 해보자 구글이나 x가 이때 정말로 우리의 권리에 대해 진지하게 생각할까? 난 전혀 아니라고 봐 구글이나 x는 자신의 이익을 위해서라면 우리의 자유와 권리를 마음대로 침해해도 된다고 생각할거야 그러지 않는다면 이러한
일도 일어나지 않을 것이고 뿐만 아니라 구글은 여러차례 자신의 윤리적 가이드라인을 모든 사람이 지켜야 한다고 하지 이 말은 구글의 윤리적 가이드라인에 어긋난다면 완몰가라도 검열될 수 있다는 거야 예를 들어서 구글은 소수자에 대한 혐오 발언을 반대하는데 만약에 내가 완몰가에서 흑인에 대한 혐오 표현을 넣는다면 구글은 무슨 짓을 써서라도 그것을 막을거야 즉
구글이 모든 것을 차지하게 된다면 구글의 윤리적 가이드라인과 내 성향, 내 욕망하고 맞지 않는다면 구글은 그것을 검열할 가능성이 매우 크다는 거지 내가 우려하고 있는 지점을 바로 이거야 구글 같은 빅테크 기업들이 내 모든 삶에 침투해 자유와 권리를 빼앗고 자신과 맞지 않는 것은 검열하겠다는 거 그들은 그들의 윤리를 우리한테 강하게 강요할 거야
결국 내가 우려하고 있는 지점은 바로 구글이나 x가 우리의 권리에 대해 조금이라고 생각해줄까? 아니면 자신의 이익을 위해서라면 우리의 권리와 자유쯤은 침해해도 된다고 생각할까 에 대한 거야 내 생각에는 구글이나 x는 후자쪽일 가능성이 높을 것 같고 그래서 우려하고 있는 거야
@완붕이1(220.116) 우려는 정당하다고 생각하고 앞서서 내 결론부터 말하자면 네 논리는 AI경쟁에서 이긴 기업의 철학, 윤리관이 영원히 고착될거라는 전제 위에 서있는거잖아? 물론 근미래나 과도기에는 현실이 될 얘기지만, 시간을 좀 더 넓게 보면 기업이 ASI을 영구히 지배할거라는 가정은 설득력이 떨어져. 기업의 철학, 윤리보다는 ASI와 인류간의 역학, 관계가 더 큰 압력이 될거라는거지. 그런 관점에서, 논해봐야 의미없는 멸종 케이스를 배제하면 완몰가는 값싸고 효과좋은 통제수단일거라는 얘기였어. 일장연설로 말한 기업윤리에 대한 걱정은, 분명 존재하지만 ASI앞에서 너무 약한 장벽일거라는거지. - dc App
@완붕이1(220.116) 말해준 우려는 모두 현실성있고, 비단 X나 구글이 아니어도 개인 혹은 집단이 정말 ASI를 완전히 통제하고 실권을 쥔다면 일어날 문제야. 내가 인용한 전문가들(닉 보스트롬, 엘리저 유드코프스키, 맥스 테그마크 등)은 그게 불가능할거라고 생각해. 내 주장의 기반은 그 논리에서 뻗어나온거야. 다만 생각해볼점은, 현대적 관점에서 만들어진 기업 윤리 가이드라인 (기업은 절대적이지 않아. 국가와 사회와의 역학 속에서 눈치를 보고있잖아)은 미래로 가면서 그 모양이 쉽게 변할거고, ASI, 기업, 정부, 서민사이의 역학 속에서 일종의 내시균형을 찾을거라고 예측하는게 타당하지, 지엽적인 통제가 그대로 반영될거라고 보는건 너무 보수적인 추측이라고 생각해. - dc App
내가 asi 얘기를 하지 않는 이유는 과연 구글이나 x 같은 ai를 주도하는 회사들이 진정으로 asi를 원할까 하는 의문 때문이야 구글이나 x 같은 빅테크들이 막대한 돈을 써서 ai를 개발하는 이유는 결국 ai로부터 막대한 이득을 얻기 위해서잖아 그런데 그런 기업이 과연 agi가 asi로 진화하는 것을 원할까 라는 의문이 들었던 거야 분명 ai를 최전선
에서 개발하고 있는만큼 asi를 통제하지 못한다는 것을 너무나 잘 알텐데 말이지 어쩌면 그들이 원하는 것은 asi가 아니라 통제가 가능한 agi라면? 만약 그렇다면 asi로 인한 리스크를 엄청 줄일 수 있으면서 동시에 막대한 이득을 취할 수 있으니까 나한테는 이 시나리오가 더 현실적으로 다가오는 것 같아
@완붕이1(220.116) ASI는 원해서 만들어진다기 보단, 생존경쟁으로 탄생하게 될거야. 결국 모든걸 지구 사회구성원 전체를 둘러싼 압력으로 생각해야해. 만약 구글이 먼저 AGI를 달성했다고 가정해보자. 그리고 구글은 더이상 개발 진척시키고 싶지 않아. 그러면 OAI, X가 개발을 멈추고 중국이 개발을 멈추겠어? 그리고 지식의 특성상 그런 지식 서비스를 제공한다는건 역설적으로 다른 AGI의 등장을 촉진시키는 셈이라, 그들이 자리를 지키기 위해서 개선을 거듭하다보면 어느새 도달하는건 ASI, 의도에 이해서 만들어진게 아닌 생존경쟁끝에 어느새 도달하게되는거지. 특정기업이 그걸 막으려면, 세계적인 브레이크가 동시에 걸려야 하는데 비핵화도 달성하지 못한 세계가 과연? 나는 회의적이야. - dc App
@완붕이1(220.116) 맥스 테그마크가 정확히 동일한 시나리오를 라이프3.0에서 다루는데, 그조차도 가능성 낮은 과도기적 시나리오라고 생각해. AGI를 이용한 전세계적 AI연구금지가 전제돼야 가능한건데, 특정 국가, 기업+AGI로는 달성할 수 없는 전제거든. - dc App
@완붕이1(220.116) 많은 전문가들이 ASI의 등장을 우려하고 사실상 수학적 최적해가 없는 정렬문제에 근심을 표하는게 바로 이 지점이야. 길게보면 인간은 최고지성체의 자리를 ASI에게 넘겨줄텐데, 합의나 브레이크는 전무하지. 나는 그 가정 위에 서서 그 이후의 사회를 바라본거고. - dc App
아.. 드디어 좀 이해한 것 같아 너가 왜 그런 주장을 했는지 그리고 왜 이런 논의에 asi를 많이 언급하는지 말이야 그러니까 구글 뿐만 아니라 세계에 있는 여러 연구소와 기업들이 ai를 개발하고 있기 때문에 의도적으로 통제 가능한 agi에서 멈춰질 가능성이 거의 없다는 거구나 드디어 뭔가를 이해한 것 같아
@완붕이1(220.116) ㅇㅇ기업의 통제는 AGI 수준에서 분명히 실존할 문제지만, 거기서 멈추는건 사실상 불가능해. 정말 기적적인 세계합의가 이뤄지고 아무도 금기를 깨지 않는다면 몰라도, AGI가 등장한 이상 ASI로 가는건 예상못한 장벽이 나타나는게 아닌이상 필연이라고 봐야지. 그래서 보통 전문가들의 논의는 그 지점에서 시작해. AGI를 독점한 기업의 사회적 지위나 위치는 제도권에서 처리할 문제로 보고. - dc App
결국 이 지점에서 중요한 문제는 asi와 인간간의 관계가 될 수 있겠네 나는 당연하게도 ai를 개발한 기업들에 대한 것이 중요한 문제라고 생각했는데 이렇게 의견을 주고받으니 이 대화에서 asi가 정말로 중요한 문제였구나
그리고 너가 언급한 전문가들도 나하고 비슷한 고민과 시나리오를 생각했다는 면에서 나만 우려했던 것이 아니었다는 것도 알았던 것 같아 너가 언급한 사람들에 대한 책과 글도 읽을 필요가 있는 것 같네 그들에게서도 명쾌한 해답이 있을 것 같지만 않지만 적어도 이 주제에 대해서 조금이라도 깊은 이해와 통찰을 얻을 수 있으니까
덕분에 나도 이 대화에서 중요한 것을 얻었던 것 같아 시간 내줘서 정말 고마워!
@완붕이1(220.116) 편의상 특갤논리라고는 했는데, 특갤 안에서도 의견이 엄청 갈려 진짜 1인 1은하의 제왕이 되어서 아무런 제약없이 맘대로 살수있을거라고 생각하는 부류부터, 멸종을 진지한 가능성으로 평가하는 부류까지. 그러니까 생각의 깊이를 늘려보고싶으면 전문가들이 쓴 책 보는기 차라리 낫다고는 생각해. 슈퍼인텔리전스나 라이프3.0같은거. 슈퍼인텔리전스는 좀 어려울수도 있는데, 평소 특이점에 관심 많으면 읽을수 있을거야. - dc App
응 한번 읽어볼게 메모장에 적어놔야겠다 책 추천 정말 고맙다