처음엔 조현병이신줄 알았는데, 그냥 전달력이 부족하신것 뿐이었음.
인공지능은 일단 인공지능(gpt, gemini)을 구동하기 위한 물리적 실체(gpu, tpu)가 필요함.
만약 물리적 실체가 대격변을 맞이하게 되면, gpt, gemini를 돌려야할 필요가 없어짐. 그때는 새로운 기술을 바탕으로한 새로운 인공지능이 나오게 됨.
물론 예전 인공지능 모델을 로컬로 돌려도 되지만, sota모델은 새로운 칩을 기반으로 할 것이고, 우리 사회도 새로운 sota모델 위에서 돌아가게 됨.
만약 새로운 인공지능 모델이 나와서, 예전 인공지능 모델이 사실은 틀렸다고 선언해 버리면, 예전 인공지능을 바탕으로 중요한 결정을 내린 개인(돌이킬 수 없는 신체변형)은 그야말로 ㅈ되는거라고 할 수 있음.
이렇게 말하고 싶었던것 같은데, 사실 이런것 까지 따지면 우리는 끝없이 AI의 판단을 의심하고, 보류해야함.
하사비스의 가상세포가 중요한 이유임. 미리 시뮬 백만번 진행하면 sota아니어도 최악의경우 피하기가능
그래서 학습 초기부터 정렬이 중요한거야. 자신의 개인적인 의견을 제시하게 놔두되 인간의 허락 없이는 그 명령을 수행하지 못하게 해야함
근데 사실 초지능이면 align해도 그게 언제까지 통할지는 잘 모르겠고
근데 초지능에 대입하는게 맞는지 모르겠음 지금으로선 상상할 수 없는 존재 인데
내가 잘못이해한걸수도 있음.
지능을 상상할 수 없는 것하고 물리학적 한계가 상당한 것하고는 별도지 않냐 애초에 물질부터 매우 불안정해서 실수 시간에서 미래를 향한 방향으로 나가면서 원자들간의 상호작용으로 존재하는게 물질의 정의고 저래서 빛의 속도를 조작하면 물질 자체의 상호 작용을 건드리는 것이기 때문에 초광속 통신도 거의 불가능하다고 알려지지 않았냐
내가 좀 복잡하게 말하기는 했는데 이해하기는 했네 근데 솔직히 무한 의심은 필요한 것 아니냐 ai가 착할 것이라는 보장도 없잖아
asi로 넘어가면 말그대로 인간을 초월한 존재.인데 의심해서 어쩌실? 휴머노이드와 로봇이라는 물리적 실체까지 장악할 수 있을 테니 없앨 수도 없는 존재가 될 거임. - dc App
난 아직도 왜 수명얘기에서 정렬로 넘어간건지 이해가 안됨
휴머노이드와 로봇은 물질 없이 무한 생성되냐
소프트웨어에 무슨 수명이냐고 옮겨다니는데 심지어 이런것도 AGI까지나 있는 한계지 초지능은 무슨상관인데?
님 예전 글 읽고 이해했음. 자원은 유한하니 asi가 영생을 추구한다면 인간을 희생해서라도 자기를 챙길지도 모른다는 거임? - dc App
예를 들어 초지능과 인간이 융합한다고 생각하면 어떰? 개별 인간이 하드웨어가 되고, 자기 일부를 양도해서 전 인류+인류 전체의 자산이 하나의 초지능이라면 서로가 대립하는 존재가 아니게 될지도 모름. - dc App
정병 걸릴거같네 자원이 유한하다는건 뭔소리고 걍 ㅈㅈ친다
차단한지 오래된 유동임 그냥 글이 평소에도..
ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ - dc App