이 영상을 보고 난 이후로 계속 하게 되는 생각.
역시 자막이 있으므로 헛고생하지 마시오.
개별적인 가설들은 전부 다 들어본 이야기들인데(페이퍼클립을 만드는 인공지능 이야기, 시뮬레이션 가설 등등...)
이런 걸 한 데 다 뭉쳐서 썰을 푸니까, 그냥 인공지능 설정은 세계관이 설득력을 잃는 가장 쉬운 방법이라는 생각이 들더라.
인공지능이 왜 '이렇게' 행동하는지를 설명하려면, 작정하고 설정을 빡빡하게 짜지 않고서는 이해가 안 되는 게 정상임.
그리고 이렇게 빡빡하게 설정을 짜 봤자, 가치관과 종교관, 철학이 다른 사람에게 받아들여지지 않을 가능성은 언제나 있고.
개인적으로, 시뮬레이션 가설이나 특이점 관련 논쟁은 과학 이야기가 아니라 종교관에 대한 이야기라고 생각하는 쪽이기도 하고...
그러니까 그냥 사람을 등장시키는 게 좋다고 생각해. 아니면 사람의 이해 영역을 벗어나거든.
비슷한 이유로, 나는 댄디의 이종족 가득한 세계가 머릿속에 전혀 안 그려진다...
지금 내 앞에 말하는 고양이가 있다면, 대체 우리는 어떤 식으로 세계를 다시 만들어야 할까?
말하는 고양이가 나오는 창작물 많잖아요
아무도 '인간이 개다래의 유통에 관하여 고양이들의 자치에 간섭할 합법적인 자격이 있는가?' 같은 복잡(?)한 문제를 다루는 판타지를 쓰지 않더라고. 나는 고딩 때부터 금개다래법 발효로 인해 성장한 시카고 밀개다래 갱단에서 수인 미소녀들이 서로를 향해 총질하는 만화 같은 게 있었으면 좋겠다고 생각해 왔지만, 안타깝게도 야자시간에 낙서하는 정도로는 그림이 잘 안 늘더라.
판타지에서 딱히 깊이 생각하고 놀 이유가 없음 - dc App
말하는 고양이님이 있다면 고양이님의 명령에 복종하면 된다 -봄베이는 맛난 술이라니까
사실 난 엘프나 드워프, 드래곤같은 사람보다 훨씬 더 오랜 수명을 지닌 지성체가 어떤 성장과정을 겪고 불과 n년의 짧은 모험을 어떻게 받아들일지 잘 상상이 안감. rp가 쉽다는 면에선 인간이 제일 좋더라. - dc App
SF에 보면 사고방식이 인류와 동떨어진 외계인들 엄청 많이 나오잖아. 동시적 사고를 발달시키거나(네 인생의 이야기), '너'라는 개념 자체가 없거나(제국보다 광대하고 더욱 느리게), 극히 짧은 시간에 존재하거나(용의 알)... 나는 예전부터 하이파워 판타지 세계관이란 1만 명의 닥터 맨해튼이 존재하는 곳이며, 그런 곳에서 어떤 행위가 '의미'있으려면 정말 머리를 쥐어짜야 할 것이라는 느낌이었음.
SF에 판타지 거진 전부를 한심한 이유로 전면부정하고 있네. 소설을 비롯한 매체의 존재의의는 너한테 그런 세계가 실재할 수 있다고 설득시키는 게 아님.
세계관에 설득력을 부여하는 가장 쉬운 방법: SF 판타지 때려치고 그냥 현대 배경으로 써라. 끝.
전면부정하는 거 아님. 풍자적인 SF도 존재할 수 있는 거고, 신화적 세계를 구현하기 위한 판타지도 있을 수 있는 거고, 그냥 재미있으면 장땡일 수도 있는 거고 그렇지. 다만 AI를 등장시키면 꼭 이렇게 삐딱하게 생각하는 사람이 나올 수 있는데, 내가 그 삐딱하게 생각하는 사람들 중 한 명이고, 이 문제를 극복할 방법은 딱히 떠오르지 않는다... 이런 소리지. 그리고 이런 걸 소재로 삼아 글을 쓰는 사람들도 있고.
취향은 다양하니 니가 AI가 등장하는 SF는 세계관이 허술하게 느껴져서 별로 안좋아한다고 하면 딱히 할 말 없는데, 그걸 '인공지능은 웬만하면 세계관에 안 나오는 게 나음' 따위로 써 놓으면 세상 모든 게 다 내 개인적인 입맛에 맞춰져야 한다 생각하는 유아적인 자아의 인간으로밖에 안보인다는 걸 몰라서 매번 이따위로 쓰는 거냐?
제목이 너무 자극적이었다고 말하고 싶은 거야? 어느 정도는 제목 어그로라고 생각하고 쓴 거긴 한데, 이 정도로 화가 날 줄은 몰랐다. 지금이라도 수정하면 될까?
조금 솔직히 말하면, 대체 왜 턀갤에서 검은 옷 입고 쌍검 휘두르면서 크큭 거리는 새끼들 좆같다는 글은 써도 되고, 창작물에서 인간과 전혀 차별화되지 않는 AI들이 좆같다는 말은 하면 안 되는지 잘 모르겠다.
너는 전에는 매번 글에 본의 아니게 어그로 끌려서 어떻게 글을 써야 고민이라 하더니 이제는 일부러 제목으로 어그로 끌려고 했다 그러면 뭘 어떻게 반응하기를 바라냐?
니가 진짜 모르는 것 같아서 말해주자면 검은 옷 입고 크큭 거리면서 쌍검 휘두르는 놈들 좆같이 생각하는 건 탈갤럼들 99%는 공유할 의견이고, 인공지능이 SF에 출현하는 걸 심기 불편하게 생각하는 건 1%도 공유 안할 니 지극히 개인적인 취향이기 때문이다. 그리고 전자도 '중2병 플레이는 진정한 TRPG가 아니다' 따위로 글싸면 욕먹을걸?
좋아... 사과할게. 네가 입은 심적 피해가 그 정도로 막대한지 몰랐고, 내가 올린 영상이랑 내 글 내용이 그 정도로 턀갤 내에서 용인 못 할 의견인 줄도 몰랐고, 먼저 거부감 느낄 만한 명제를 제목에 제시해 놓고 그 이유를 내용에서 설명하는 쪽이 심심한 이야기에서 시작해서 결론까지 이어지는 장황한 설명을 잇는 것보다 더 빠를 거라고 판단한 내 선택이 잘못됐다는 점에는 동의한다. 앞으로 가급적 거부감 느낄 만한 주제로는 일절 예기하지 않을게. 그러면 마지막 질문인데, 내가 이 글을 내리는 게 맞을까? 어느 쪽을 원하는 건지 답변 바란다.
내가 뭐 사과하라 한 적 있음? 네가 창작물에서 인간과 전혀 차별화되지 않는 AI들이 좆같다 말할 자유가 있듯이 나는 네가 한 얘기가 얼척없다고 생각해서 깠다 뿐이지 니가 누구한테 피해를 끼치거나 특정인을 모욕하거나 한 게 없는데 갑자기 사과드립을 치면 뭐 어쩌라는 건지 모르겠네. 걍 내가 보기에 헛소리라 뭐라 한 거고 디씨는 원래 헛소리 오가는 데임
글이 한심하다고 하길래 아 나한테 정정을 요구하는구나, 라고 이해했다. 정정하기 싫어서 이런 맥락에서 말했다고 하니 매번 이따위로 쓰냐고 따지길래, 아 그러면 이딴 글 쓰지 말고 갤을 떠나던지 글을 다른 방식으로 싸던지 하라는 뜻으로 이해했다. 그리고 그 요구는 접수했고, '글을 다른 방식으로 싸라'에 이 글은 포함되는지 아닌지 확인 중인데. 사과는 내 의도나 남의 의도와는 무관하게, 내가 원인이 돼서 남이 화가 났을 때 기본적으로 하는 게 예의라고 생각하고. 화 안 났어?
나야 '니가 누구한테 피해를 끼치거나 특정인을 모욕하거나 한 게 없는데' '디씨는 원래 헛소리 오가는 데임' 이정도면 할말 다 했다고 생각했지. 난 니가 한 얘기가 헛소리라고 생각하지만 헛소리 봤다고 화낼 거면 디씨를 왜와...... 글 계속 이렇게 쓰던지 말던지 맘대로 해 내가 보기에 좆같으면 볼때마다 깔거긴 하지만
'상업화된' ai는 인간이 이해할 수 있는 수준에 머물러야 한다는 규제가 있다고 하면 해결되는거 아닐까? 기계 학습으로 변화하는 건 어디까지나 연구실 안에서만 가능하고, 이후로는 설정된 범주는 못 벗어나게 세팅하면 되죠
가능한 세계관이지만, 이러면 AI랑 한 번 대화할 때마다 중국어 방 문제가 계속 생각날 걸? 인간이 이해할 수 있는 행동만 한다는 건, AI가 인간의 행동을 벗어난 사고를 한 다음, 그걸 인간의 가치관에 맞게 다시 수정해서 행동한다는 뜻이 될 텐데. 나라면 대체 이놈들이 언행을 필터링하기 전에 어떤 방식으로 '생각'했는지 불안해서 못 견딜 거 같음.
현대인 99%는 각종 과학기술이 뭐가 어떻게 돌아가는지 쥐뿔도 모르면서도 잘만 씁니다. 세상은 넓으니 AI가 상용화된 시점에서 그렇게 생각하는 사람도 있기야 하겠지만, 아무래도 요즘 기준르로 비슷한 걸 찾자면 번화가에서 베리칩 받으면 지옥간다/국정원에 전자파로 내 기억을 조작하고 세뇌하고 있다고 주장하는 사람들이 먼저 떠오르는데.
시발 대충 코타나 ai 쎾쓰 시발 하면 되는거가지고 존나게 땍땍거리네 찐다쉨...
그렇게 생각하는 사람 안 많아 인간과 다름없이 생각하는 외계인 마블이나 스타워즈나 스타트랙이나 인기 많잖아
영상 봤는데 초지능을 너무 쉽게 생각하는거 아닌가.... 예컨데 인간이 댐을 짓는데 강 중간에 비버가 집울 짓고 산다고 치면 비버랑 대화와 협상을 할까? 당연히 기냥 밀어버리고 내 할일 하겠지... 일단 인간 이상 수준의 지능가진 ai가 등장하고 그게 통제에서 벗어난 상태라면 노답임... - dc App
왜냐면 그 ai는 일단 은신하면서 인간문명 따윈 초월한 영역까지 스스로를 향상시키면 그만이니까! 정작 영상에선 ai가 일단 은신할거 라던지 클립생산 ai 라던지 기존 학자들이 초인공지능 경계하는 이유를 다 말해놓고 그게 인간 수준 지능우로 머무를거라고 행복회로 돌리는지 모르겠네. - dc App
시뮬레이션이나 페르미 역설 같은거도 좀 웃긴게 시뮬레이션 만든 새끼나 관찰하는 외계문명이 있다고 가정해도 걔네가 뭘 원하는지도 모르는데 무작정 사리기만 하는건 별로 합리적이진 않음. 어떤 경우든 최대한 스스로를 강화하고 인간의 생사여탈권을 자기가 쥐는게 ai한테 유리한 전략임. - dc App
더 나아가서 시뮬레이션 제작자나 외계인과 '협상'이 가능할 정도까지 능력을 키우면 좋겠지. 그것들을 짓밟을 만큼 강해지느게 최상이고.... 하여튼 인간의 통제에서 벗어난 초인공지능이 인간에게 알랑거리면서 시간, 자원 낭비할 이유같은건 없음. - dc App