[일반] 그런데 존나 궁금한데 agi하고 asi가 어떻게 인간을 계몽하냐

[익명(59.26)]

일단 agi하고 asi가 인간보다 몇천배 몇만배 똑똑한 것은 믿어 의심치 않지만

그것하고 별개로 agi하고 asi가 지껄인다고 인간이 계몽될 리가 있냐

하다못해 지능 차이 별로 안 나는 인간 과학자 말 듣고도 계몽이 안되는게 인간인데

[익명(220.117)]

생쥐 유전자 개조도 시키는데 인간 본성 개조는 못시키겠냐

[글쓴 ㅇㅇ(59.26)]

유전자 개조 하는 것이면 이미 사이버펑크물 현실판이라 그것은 제외하고 그렇게 하면 이미 계몽보다는 인격체 조작 아니냐

[익명(intense7527)]

지금도 너한테 여성호르몬 꾸준히 주입하면 결국 자지찾게 되는데 못할거같노?ㅋㅋ

[글쓴 ㅇㅇ(59.26)]

그러니까 그것은 계몽이 아니라 인격 조작이래도 지금 인간 과학자들도 윤리 씹으면 충분히 가능하고 인간 여성화나 세뇌도 충분히 가능하다

[ㅇㅇ 1(218.144)]

네 논리가 좀 이상한 것 같아. AGI, ASI는 인간보다 몇천만배 똑똑하다. 인간은 자신보다 조금 똑똑한 과학자의 말로도 계몽이 안 된다. ?? 인간보다 몇천만배 똑똑한 과학자가 계몽하면 될 수도 있겠지?

[글쓴 ㅇㅇ(59.26)]

그게 아니라 애초에 사람이라는 종 자체가 피설득성향이 낮다는 말인데 애초에 인간 과학자 말도 agi나 asi 말보다는 덜 추상적일텐데 더 추상적인 agi나 asi 말은 더 잘 알아 듣겠노

[ㅇㅇ 1(218.144)]

물론, AGI는 인간보다 몇천만배 똑똑하진 않을거임. 다만 사람의 일을 전부 대신 할 수 있을 정도로 능숙한 애이긴 하지. 가끔 틀리더라도 왠만한 전문가보다 잘 함. 네가 아플 때 병원가서 의사 선생님 말씀 잘 듣듯, 법적인 문제 때문에 변호사랑 이야기 하면 잘 경청하듯, 낚시를 하더라도 낚시배 선장님 말씀에 귀를 기울이듯. AGI만 되도, 네가 무슨 질문을 하든 신뢰할만큼 계속 만족스러운 답변을 받게 되면 자연스럽게 AGI님 말씀!! 이러면서 따르게 될거임. 근데 이런 AGI보다 몇천만배 똑똑한 ASI라면 그냥 무조건이지. 물론, ASI라면 그냥 뇌에 직접 전기신호를 보내든, 약물로 성격과 생각을 바꾸든 무슨 수를 쓸 진 모르겠지만.

[ㅇㅇ 1(218.144)]

음? AGI랑 ASI의 말이 더 추상적일 거라는 말에 동의가 안 되긴 함. 지금 챗봇만 해도 논리적으로 설명하라고 하면 왠만한 사람보다 덜 추상적이고 논리적으로 설명하지 않음??

[글쓴 ㅇㅇ(59.26)]

근데 그게 문제가 의사들도 지능 그렇게 썩 안 높아서 사회성 문제가 없어서 그렇지 agi하고 asi가 사회성이나 미적 감각 문제가 없을지는 회의적이다 그리고 현실에서도 자기들 치료해주는 의사도 얼마나 욕을 그렇게 하는데

[글쓴 ㅇㅇ(59.26)]

챗봇은 의식이 없어서 사람이 그렇게 훈련시킨거고 아직 챗봇은 의식 없다

[글쓴 ㅇㅇ(59.26)]

일단 사람 피설득성향 높아 보이면 어디 고지능자 하나 데리고 중동 가서 이슬람에 대해 일일이 반박시키고 살아 돌아오면 agi하고 asi가 인간 완벽 계몽 가능하다는 것 인정해 줄게

[글쓴 ㅇㅇ(59.26)]

그러고 보니 너가 그렇게 대단하다고 빨아대는 챗봇들도 현재 비인도적 도축에 대해서 물어보면 고기 값이 비싸지더라도 동물 복지 도축을 해야 한다고 하면서 정작 고통 경감 안 하는 할랄 도축에 대해서는 문화적 차이라고 하면서 회피하지

[글쓴 ㅇㅇ(59.26)]

근데 신기한게 그렇게 대단한 챗봇들 왜 이렇게 모순적이게 훈련된거냐

[ㅇㅇ 1(218.144)]

왜 나랑 말이 엇갈리는건지 고민을 해봤는데. 나는, 'AI가 더 똑똑해져서 설득하면 되지 않을까?'라고 말하고 있는거고 너는, '똑똑한 말을 해도, 설득 당하지 않는 경향이 있다.' 라고 말해서 그런 것 같음. 아마도 똑똑하다<< 여기에서 차이가 있는 것 같은데. 나는 설득 당하지 않는 경향 조차도 극복해서 설득할 만큼 AI가 똑똑해질 수 있을 것이다. 라는 말인거고 너는 똑똑한 말, 논리적인 말, 맞는 말이어도 사람은 설득 당하지 않는 경우가 있다. 라는 말 같네.

[글쓴 ㅇㅇ(59.26)]

근데 사실 설득은 설득자가 지능이 높아도 확률이 반반이라 일단 agi나 asi가 사회성하고 미적 감각이 얼마나 인류하고 정렬되어있냐가 중요할 듯 일단 사회성하고 미적 감각이 사람하고 차이 심하면 역효과 날 가능성이 더 높다

[ㅇㅇ 1(218.144)]

ㅇㅇ 나는 그 '똑똑'에 사회성, 미적 감각 등도 개선된 걸 포함하는 말이긴 했어. 그래서 상상하기로, 중동에 가서 이슬람을 개종해야 하는 경우에, 단순히 맞다 틀리다 같은 팩트로 박살내는 게 아니라, 감정도 건드리고 친화적으로 접근하고 처음엔 아닌 척도 하고 다 하면서 결국 설득해내는 '똑똑'을 생각했던 거. AI가 그걸 해내기 쉽진 않겠지만 지켜봐야겠지. 좋은 밤 되셈.

[익명(symphony5198)]

우리는 지금도 시나브로 계몽 되어가고 있다

[글쓴 ㅇㅇ(59.26)]

일단 agi하고 asi나오면 과학 기술은 엄청나게 진보하기는 할 듯 그래도 현실적 한계가 있어서 나는 니케처럼 뇌만 남겨놓고 아름다운 여성형 안드로이드 의체에 들어가고 싶다

[퐁칸8(zxvw157)]

생물개체로서 사기꾼이 사람 속이는거보면 지능이 조금만 차이가 나도 설득이 가능함

[퐁칸8(zxvw157)]

하물며 아득히 멀고 높은 지능이 우리를 말로 설득하거나 인지시키려고 한다? 단어에 매료될 수 밖에 업슺

[글쓴 ㅇㅇ(59.26)]

그것은 속는 사람이 멍청한 것일 뿐이고 사기꾼 지능 그렇게 안 높다 거기다가 사기꾼은 지능이 높아서 사람 속이는 것 아니고 이미 연구도 잘 되 있을텐데 거기다가 현재 챗봇이 의식은 없어도 어지간한 사람보다 똑똑한 것은 인정하지만 나만 해도 잼민이 의식은 없어도 나보다 똑똑하게는 여겨도 잼민이 pc 성향 보고 븅신같다고 여기는데

[퐁칸8(zxvw157)]

그니까 생물종으로 볼때 ㅈ도 차이없는 개체사이에서도 속이는게 가능한데 아득한 지능이 설득을 못할 이유가 없지

[퐁칸8(zxvw157)]

이걸 나는 아날로그핵이라고 부름. 내가 명명한건 아니고, 비트레스라는 근미래SF 소설에서 나오는 얘기임. 초지능이 인간의 의식을 자발적으로 특정방향을 향해 유도시키는 행위들을 일컫는말임

[글쓴 ㅇㅇ(59.26)]

그것은 설득보다는 속이는 것에 가깝고 계몽하고는 거리가 멀지 않냐 그리고 속임수도 어느 프레임 선에서만 가능할걸 이슬람 신자들한테 이슬람을 거짓으로 믿게 속일려면 차라리 속이는 놈이 죽을 확률이 더 높은 것 처럼

[글쓴 ㅇㅇ(59.26)]

저거 그냥 라노벨이잖아 ㅇㅅㅇ

[퐁칸8(zxvw157)]

계몽도 속이는것도 결국 인간의 사고를 유도한다는 방향에서 본질적으로 동일함. 쿠란을 해석하는 방향을 만약 독실한 이슬람이 들어도 대가리 탁 칠 정도로 아?그런뜻!!으로 설명해준다면 못할것도 없다고 봄 난

[퐁칸8(zxvw157)]

라노벨이여도 읽어보셈ㅋㅋ아날로그핵이란 개념 생각보다 그럴싸하니까

[글쓴 ㅇㅇ(59.26)]

저거 작품 설정 보니 agi하고 asi는 아무런 의식도 없고 agi하고 asi가 설득하는 것도 아닐 뿐더라 그냥 관리하는 높으신 분들이 저거 가지고 특정한 행동을 하게 유도시키는 거잖노

[퐁칸8(zxvw157)]

아닌데요ㅋㅋ...대주제는 도구랑 인간의 관계성이고 그 안에서 인간의 모습을 한 도구를 어떻게 대할거고 어떤 일이 있을법한지를 다루는거지. 뭘보고 온건지 모르겠네

[글쓴 ㅇㅇ(59.26)]

게다가 오케아노스 보니까 저건 아예 물리학적으로 불가능하노 asi 급이면 최소 cpu 노드만 100 노드 이상에 자체적으로 진화했다니까 cpu 노드들에도 optical core가 electronic core보다 더 비중이 커야 이상적일테고 gpu 클러스터도 학습하기 좋게 arm ampere 기반으로 200 노드 근처쯤 있어야 하고 qpu도 양자 연산 하기 좋게 70 노드는 있어야 하는데 저거 태양열로 감당이 안되노 거기다가 무슨 학습 자료로 우주에 둥둥 떠다니는게 알아서 recursive self improvment를 달성하노 혹시 위성 인터넷 중개 위성이였노

[글쓴 ㅇㅇ(59.26)]

나야 오늘 처음 보는 작품이니까 나무위키에 오덕들이 정리해논 설정 보고 왔지 대충 흝어보니 별거 아니다노 거기다가 하드웨어나 ai 구성은 전형적인 오덕 작가들 상상력 풀발휘에 가깝노

[퐁칸8(zxvw157)]

각자 생각은 자유니까 그 의견도 존중함ㅇㅇ

[해당 댓글은 삭제되었습니다.]

해당 댓글은 삭제되었습니다.

[ㅇㅇ 2(59.26)]

그러면 차라리 데이터센터에 불지를 가능성이 더 높다에 건다

[ㅇㅇ 2(59.26)]

개인 맞춤형도 현재처럼 답변들이 죄다 grok 빼면 도덕 교과서 수준이면 답 없어

[ㅇㅇ 2(59.26)]

그래서 차라리 agi나 asi가 인간 뇌 개조해서 자기 원하는 대로 하는 것은 가능하지만 뇌 개조 안 하고 설득하는 것은 힘들다고 하는거