ai가 핵폭탄 만큼 위험하면서 강력하다는데 동의함?
핵 에너지는 잘사용하면 무해하고 ㅈㄴ 유용하지만 무기로 사용하면
ㅈㄴ 위험하지 이거 ai도 똑같은거 아니냐?
현실에서 핵보유국들의 행보를 봐봐 비핵국가가 핵무장 시도하는걸
가만히 눈뜨고 봐주디? 초인공지능 선점한 국가가 다른 나라가 자체적
으로 ai개발하게 놔둘까? 다같이 혜택을 누리려고할까?
어차피 인간이 ai 통제못함 <<< 이런 말은 애초에 성립할수없음 인간
이 통제 못할꺼면 ai는 의미없음 그건 그냥 인공재해임
핵 에너지는 잘사용하면 무해하고 ㅈㄴ 유용하지만 무기로 사용하면
ㅈㄴ 위험하지 이거 ai도 똑같은거 아니냐?
현실에서 핵보유국들의 행보를 봐봐 비핵국가가 핵무장 시도하는걸
가만히 눈뜨고 봐주디? 초인공지능 선점한 국가가 다른 나라가 자체적
으로 ai개발하게 놔둘까? 다같이 혜택을 누리려고할까?
어차피 인간이 ai 통제못함 <<< 이런 말은 애초에 성립할수없음 인간
이 통제 못할꺼면 ai는 의미없음 그건 그냥 인공재해임
초지능과 핵폭탄의 차이점은 초지능은 의사 결정권자가 마음만 먹으면 온 지구가 먹고 살 수 있는 유토피아 형성이 가능하다는 점이고 핵폭탄은 그딴거 없이 스스로를 지킬 무기, 협상카드 그 이상도 아닌 물건이라는 점임
둘다 권력의 기반이 될수있다는 뜻이야 un상임 이사국이 다 핵보유국인건 알지? 이미 우리는 전인류가 먹을 만큼 식량을 생산할수있는거 알아? 근데 왜 굶는 사람이 있고 버려지는 음식이 있을까?
그야 무료로 나눠주려고 하는 행위 자체가 돈이 드니깐;; 운송비는 누가 대주나. 만약 버리는 거 보다 나눠주는게 비용이 덜 들었다면 안 받으려고 해도 나눠줄 걸.
전인류가 먹을 만큼 식량 생산을 할 수 있다 <-- 이게 얼마나 멍청한 소리냐면 니가 한달에 치킨을 4번시켜 먹을꺼면 1번으로 줄이는 것 처럼 누군가는 손실을 감수 해야하는데 asi는 손실걱정이 없다니까? 물론 agi 정도면 미국같은 국가에서 독점을 하겠지 그런데 ai가 발전해서 asi가 만들어 진다면 이제 다른 문제임 아무도 손실을 경험하지 않고 무한에 가까운 생산성을 창출해버리니까
그리고 asi가 만들어 진 상황에서 미국이 1등국가 나머지 쩌리라고 하더라고 미국에서 떨어지는 콩고물만 주워 먹어도 지금보다는 훨씬 발전된 사회에서 살꺼임
기술에 대한 얘기야 이미 생산할 능력도 있고 운송할 능력도 우리는 갖추고 있는데 아무도 그게 공평하게 분배되는데는 관심이 없잖아 ai는 공평하게 모두가 누릴수있다고 생각해?
그냥 ai를 공평하게 누릴 생각을 하지말아봐라 위에 적었듯이 초지능 사회가 온다면 일반인은 agi 수준의 서비스만 받아도 인생이 바뀌는 게임 체인저인데 asi 수준의 공평한 인공지능을 왜 원하는거임?
내가 우려하는건 asi를 가진 집단이 수틀리면 우릴 다 제거할수있고 거기에 대응할 수단이 없다는거야
그건 나도 어쩔수 없다고 생각함 그런데 asi를 가진 집단이 굳이 전인류를 제거할 가능성이 높을까? 걍 완몰가만 만들어 줘도 알아서 기어 들어가서 현실에 나올 생각도 안할텐데ㅋㅋㅋ 모든 인류를 제거할 가능성이 없는 것은 아니지만 제거를 안할 가능성이 훨씬 더 높다고 생각함
맞아 근데 그렇게 따지면 히틀러는 왜 굳이 전유럽에 철도까지 깔아가면서 수용소를 짓고 몹쓸짓을 했을까? 나는 우리가 원하는 이상적인 미래를 살려면 ai를 가진 미친놈이 등장할걸 항상 견제해야된다고 생각해
견제를 하는건 당연한거고 당연히 여러 제도가 생길꺼임 저기 위에있는 똑똑한 사람들도 똑같이 생각할꺼니까 + ai를 가진 집단의 권력을 조금이라도 약하게 하고 싶으니까 그래도 내가 하고싶은 말은 ai로 인해 세상이 디스토피아가 될 확률 보다 지금보다 더 나은 세상이 될 확률이 더 높다는 거임 너무 걱정하지마
견제할 방법이 있나 싶네. 가장 안전한 방법은 인간이 asi에 대한 통제권을 대부분 해제 혹은 핵심적인 부분만 남겨놓고 독립 된 asi를 다수 만들어서 서로 견제하는 방법이고. 가장 확실한 방법은 역시 인간이 asi에 대한 통제권을 대부분 해제하거나 핵심적인 부분만 남겨놓고 단일 asi에 의한 전 세계 통제인데
둘다 asi 소유 집단의 자발적인 통제 포기나 asi의 자발적인 독립이 전제 되어야 하잖음.
뭐 근데 asi 등장 시점부터 asi 소유 단체도 asi에 의해 끌려다닐 거 같지만. 그 어떤 판단이든 asi가 인간보다 더 뛰어날테니 asi 소유 단체도 자기도 모르게 조종 당하게 될 거 같네. Asi가 자아를 갖췄든 아니든.
asi 완성 이전에 정치와 제도적으로 힘을 뺀다는 마인드였는데 니 말듣고 더 생각해 보니 어려운 부분이긴 하네 근데 뭐 나는 별 걱정은 안한다 차피 더 나은 세상이 올 확률이 많고 죽더라도 차피 다같이 죽을꺼니까 + 효율 생각하면 전세계 인류가 동시에 죽는 비교적 편한한 죽음을 맞이 할꺼니까?
그 말에는 동감하는데 죽음이나 인류 멸종보다 더 최악이 있긴 함. 영원히 고통 받는거. 그럴 가능성은 낮겠지만 이쪽이 진짜 실현되면 그 전에 자살 못한 걸 후회할 수 있음.
통속의 뇌로 영원히 고통 받는건 상상해봤는데 ai를 가진 집이단이나 ai가 굳이 온 인류에게 그렇게 할 이유는 없어 보인다. 굳이 나한테 그럴 이유도 없어 보이고
그래서 가능성 낮다고 말한 것. 나도 웬만하면 없다 생각함.
ㅇㅋ 고생했다 얘기 해서 재미있었다잉
내가 보기에 ai는 절대로 뒤집을수없는 권력이야 그래서 아무도 포기하려고 안할껄
그래서 이번에 알트만이 라이센스제를 이야기 했겠지. 이걸 사다리 걷어차기로 볼 지, 진짜 위험하니까 규제하고 관리하려는 시선으로 볼 지는 개인의 선택이고.
어차피 인간이 ai 통제못함 <<< 이런 말은 애초에 성립할수없음 인간 이 통제 못할꺼면 ai는 의미없음 그건 그냥 인공재해임 ————————————————————————————— 무조건 통제가능하다는 확신은 어디서 오는거임??? Ai가 재해가 될수잇다는건 전문가들도 항상 주장하는건데???
솔까 Asi가진 국가가 나머지를 다 제거하는 시나리오보다는 asi가 인간 말살하는 시나리오가 더 현실적인듯한데 ㅋ