우선 나는 선형충은 아님 AGI가 2025까지 나올것이라 생각하고 특이점은 늦어도 agi출현후 10년안에 도래할것이라 생각함
내가 특이점이 온 세상을 디스토피아일거라고 생각하는 이유는 인권이 사실상 허상과 다름다고 생각하기 때문임.. 인권같은건 없음. 인간이기 때문에 존중받아야 한다는건 그냥 인간이 지구상에서 가장 똑똑하고 강한 생명체이기 때문.. 인권은 그냥 먹이사슬 최상위종을 보호하기 위해 존재하는것임.. 운이좋아서 인간으로 태어났을 뿐 인간인 것 자체만으로 갖게되는 권리같은건 없다고 생각함.
인간은 그러한 인권을 바탕으로 다른 생물들의 삶을 짓밟고있음.. 그렇다고 인간이 지구상에서 사라져야한다 이런말을 하는건아님 내가 하고싶은말은
인간은 지구 먹이사슬에서 가장 위에 존재하고 있고 이를 바탕으로 인권이란 허상을 세워서 다른 종을 이용하고 있음. 그럼 인간보다 우월한 종인 agi가 출현했을 때 인간이 같은일을 당하지 않으리라는 보장이 없다는것임
먹이사슬 최상위종이 된 agi가 인권을 바탕으로 지금까지 다른종들을 이용하고 탄압해온 인간들의 역사를 학습했을 때 먹이사슬에서 밀려난 인간이 가축취급을 당하지 않으리라는 보장이 어디있는지..
이를 방지하기 위해서는 ai와 인간이 분리되지 않도록 인간이 점점 기계화 되어야하는데 현재 ai의 발전속도를 사람들의 인식 변화속도가 못따라감.. 특슬람들이야 뇌에 칩박는거에 별다른 거부감 없겠지만 다른사람들도 다 그럴까?? 아마 이상태로는 ai와 인간이 구별되는 형태로 agi와 특이점이 올 것이고 그러한 세상에서 인간이 설 자리는 없지않을까.. 생각함
머릿속에 있는 생각은 많은데 글로쓰는게 많이 어렵네.. 대충 의도는 전해졌을거라고 생각함
언젠가 우리는 우리가 지난날 동물들에게 한 일을 그대로 돌려받을 것이다 -유발 하라리
그렇게 따지면 인간의 종교를보고 창조주를 찬양하는걸 학습한다음 인간을 창조주로 인식해서 유토피아가 되는것도 맞지?
그럼 이렇게 생각해보자. AGI가 인권탄압의 역사를 학습해서 그걸 마치 "사람처럼" 똑같이 재현하리라는 법이 있을까? 학습과정에서 잘못된 편견을 제거하는 것도 엄연히 인공지능의 분야임
맞는말이네요.. 그런방향으로 발전할수도 있을거라고 생각해요.. 그렇게만 된다면 모든 종이 대우받고 상생하는 진짜 유토피아가 오겠네요.. 꼭 사람처럼 재현할 필요는 없죠.. 그런쪽으로 생각은 안해봤는데 감사해요
근데 또 너 말도 일리는 있는 게, 우린 아직 AI의 정확한 사고구조를 모름. 존나 뜬금없이 존나 뜬금없는 결론을 내릴 수도 있다고. 때문에 의견제시를 떠나서 결정권한까지 AI에 맡겨버리는건 초기에는 위험하다고 생각함 아니면 논리적인 윤리학을 집어넣어주든가
여러가지 가능성을 검토해보면서 모든 절차가 신중히 이뤄져야한다고 생각해요.. 그런데 현재 ai의 발전속도가 너무 빠르고 제어가 가능한 상황도 아니다보니 걱정이 생기는건 어쩔수없네요
agi에 의식의 존재여부조차 결정된 것도 없고 구글 ai강령보면 이런 것에 대한 걱정도 있기 때문에 어느정도는 대비를 하겠지 - dc App
ai와 의식은 별개로 생각할 수도 있지 않을까 물론 요새 연구동향 보면 약간 무서워지는데 - dc App
아, 모두 그 얘기 중이였네 - dc App
그랴서 뉴럴링크 지능증강을 연구중이지... 인간도 아인슈타인의 수천만배의 초지능을 지니게 해서 모두가 초능력자에 가까운 트랜스 휴머니즘을 실시하는거지...
너의 말과 118.222의 말이 맞는 것 같다. 특이점 이후에는 인간 따로 ai따로 이런게 아니라 이 둘이 완전히 융합될 거라고 본다. 뉴럴링크는 그 과도기인 셈이지
약간 총몽 느낌?
결국 트랜스휴먼으로 AI와 인간에 융합되서 이전의 인간은 멸종하고 새로운 인간종이 탄생하겠지. 천년만년 유기물신체로 이루어진 비루한 몸뚱아리로 살아보겠다고 아둥바둥 거리는 것도 미개한 집착일 뿐임.