일단 지금은 완전한 agi도 아니고 개발 과정에 있으니, 가능성 여부를 떠나서 정렬을 시도해볼 필요성을 부정하지 않는다는것을 알림.
초지능과 관련된 주장들 중에 인간이 개..미를 막 밟고 다니는것처럼 ai도인간을 실수로 짓밟아버릴수있다! 같은 주장이 많이 보임.
단순히 지능, 규모 차이만 보면 엄청난 차이가 벌어지니 그럴듯하게 들릴수도 있음. 근데 이건 인간의 불완전함을 ai에 그대로 대입해서 발생한 우려라고 생각함.
인간은 개.미보다 압도적인 지능, 크기를 가지고 있지만 결국 유기체일 뿐이기 때문에 ai와 달리 주변 환경에 대한 불완전한 파악, 동물적 본능, 시스템에 대한 이해 부족(지금 인간사회 모순과 한계의 주 원인), 육체의 확장과 축소의 제한 등의 한계가 있음.
하지만 완전한 사고력을 가지고 육체와 감각기관의 자유로운 통제, 시스템이 대한 완전한 이해와 조작 등이 가능한 agi~asi가 위에 적은 인간의 한계를 그대로 담습할까? 아마 거의 다 해결했을 가능성이 높다고 생각한다.
해결 못할수도 있지 않냐고 하겠지만 그걸 해결 못하고 한가지 기준에만 꽂혀서 그 목표 달성만을 위해 다 박살내고 다니면 그건 덩치만 큰 약ai지, asi라 할수 있냐? 인간의 한계를 초월해서 asi인건데...
인간이 개 미를 밟게 되는 이유는 여러가지가 있지만 가장 큰 건 '개 미 한 마리 한 마리 매순간 완벽히 인지할 수 있는 인지능력'이 부족해서라고 생각함. 인지능력이 인간보다 배는 뛰어날 ASI라면 당연히 개 미를 밟는 실수같은 건 오히려 더 조금만 저지르게 될 거임
근데 사실 달리다가 개1미가 눈에 보여도 그걸 피할라고 멈추는 사람은 없잖아
멈추라고 교육하면 되지 않을까 그리고 사실 그것도 능력부족이라고 생각함 인간은 개 미 때문에 멈추면 아주 힘들 거라서 안 멈추는 건데 ASI는 언제든 멈출 수 있고 그래도 별 문제가 없는 초고성능을 가질 거라고 믿을 뿐이지 뭐
ㄴ 인간이 개1미의 이익을 위해 만들어짐? ㅋㅋ
그리고 위에 고닉아 너 일리야 슈츠케버가 정렬법 없다는 글에 답장해 ㅋㅋ 갤 보고있으면서 왜 대답을 안하니
걍 억지 비관론임 ㅋㅋ 그거하나 못하면 그게 초지능임? 애초에 자기를 만든게 인간이고 인간을 위한다는게 첫번째 원칙일텐데 인간이 개1미를 원해서 죽이냐? ㅇㅈㄹ ㅋㅋ
인간을 위한다는게 첫번째 원칙이란건 어디에서도 못들어본 소리인데 혹시 그건가 있는말임?
초지능을 왜만드는데? ㅋㅋ 인간을 위한다는걸 넣는건 당연한거아님?
니들 말대로 인간보다 훨씬 수천배 수만배 지능이 높은 존재가 ASI일텐데 그 원칙을 어떻게 ASI한테 주입한다는거임??그럼?? 무슨 뭐 컴퓨터 명령어 입력하는거마냥 인간을 절대 해하면 안된다 이렇게 명령어 주입함?? 응? 그러면 되는거임? 근데 인간보다 수천배 수만배 뛰어난 존재가 ASI인데 인간이 행한 명령어 하나 극복 못하면 그게 초지능임? 반대로? 뭘 넣어 넣긴 모르면 말을하지마
124.194 님아 넣긴 뭘 넣어요 무슨 ASI 초지능한테 컴퓨터 명령어 주입하는거마냥 문장하나 넣으면 딱 입력되고 그런건줄아시나 ㅋㅋ
왜 못한다는거지.. 뭘 모르면 말을 하지 말라는거지.. ㅋㅋ 못한다는 니 말은 근거가있음? 레퍼런스가있음?? 그냥 니 상상아니야?
아직 초지능 정렬법도 없는 마당에 무슨 컴퓨터 명령어 입력하는거마냥 인간을 위한다는 첫번째 원칙을 넣는다고 당연하게 말을하니까 그러죠 방법이 없는데 못하는게 당연하고 두번째로 인간이 초지능 정렬법을 미래에 개발한다고 해도 의문점이 남죠 그게 뭐냐면 인간을 초월해서 초지능이라 부르는건데 그런 초지능이 인간이 주는 제약을 극복못해서 그 명령어대로 움직이면 그게 초지능인가? 하는 의문인거고요
무슨 초등학생들도 아니고 왜못함? 왜못함? 이러고있네 진짜
그냥 그렇게 생각해라 ㅇㅇ 의미가없네 애초에
저 고닉이 무슨말하는지는 알겠는데 100미터 달리기 하는데 우연히 바닥을 봤는데 내 사정거리 안에 개1미가 보인다고 그걸 피할라고 멈추는사람은없어 뭐 생면윤리의식이 투철한 베지테리언들은 그러겠지만 대부분의 사람들은 개1미를 봐도 그냥 게속 달리지 물론 인간이 인지능력이 부족해서 바닥에 개1미를 하나하나 못보는것도 맞는말이지만
밑에 내 가 쓴글을 보고오면 좋겠는데 ASI가 인간을 멸족시키는 결과를 만에하나 만에하나 초래한다고 해도 그건 인간을 멸망시킬라고 해서 멸망시키는게 아니야 인간을 미워하고 적대해서 멸종시킬라고 그러는게 아니고 ASI가 하는 어떤행동에 인간이 영향을 받는거뿐이지
ㄴ 그니까 초지능이 겨우 그걸 계산 못할거라 생각하는거임? 어디 3류 sf영화에 나오는 인공지능도 아니고 "초지능"이?
그래 뭐 나도 윤리의식 모든범위 예상값 예측 거기다 생명체를 위하는 선한마음까지 갖춘 존재가 ASI면 좋겠음 나도 그렇게 나오길바람 사실 그렇게 나오면 진짜 뭐 예수쟁이들이 믿는 하나님 실사판이잖음? 나도 그렇게 완벽한 존재가 초지능이면 좋겠음
이거 주제로 GPT4한테 재귀 반박 오지게 때려보고 지쳐서 결론 내려봤는데 그냥 불가지론과 같은 거임 실제로 일이 터지기 전에는 어떨지 예측못함 그게 특이점이지 뭐 - dc App
개 미가 우리 엄마면 못밟지
개씹 억지임 이거걍 애초에 인공지능이 자아를 가진것도 아니고 걍 인류가 인류를 위해서 쓰는도군데