여기 갤러리 처음 와보는데
일단 난 asi가 개발될 것이라고 생각하는 사람임
왜냐하면 이 인간의 추론, 감정 이런 모든게
그렇게 대단한게 아니고 어떤 알고리즘을 통해 나오는 것일거라고 생각해서
어쨋든 agi와 asi를 만들 수 있을거 같단 말이지?
근데 기업가들은 asi 다음 세상에 대해 전부 모르겠다는 말만함
(진짜 모를 수도 있고 대충 알거 같은데 모르는 척 하는 것일수도)
지금까지 자기보다 열등한 존재를 이용해왔던 것이 인류의 역사임
약육강식은 생명체 전체의 법칙이니까
여기서 인간보다 아득히 뛰어난 존재가
인간을 어떻게 대해줄지가 미지수인데
난 공포스러움
자기에게 닿을 수 조차 없는 미물이니 그냥 잘 대해주면서 냅둔다?
잘 모르겠음..
여기는 그냥 어떻게 될지 모르니 그냥 낙관적으로 생각하자는 의견?
제프리힌턴 레퍼런스를 차용하자면 약자에게 강자가 종속되고 통제되는 유일한 사례는 모성애밖에 없다고 했음. Asi 정렬이 불가능하지않다면, 유일한 정렬법은 모성애와 사랑을 교육시켜 이걸 따르게 만드는 것 밖에 없어보임. 약자에게 강자가 통제되는 유일한 경우의 수니까..
그렇군 사랑과 감정을 교육시켜야겠네 비이성적인 행동을 하게 만드려면
근데 무조건 흑화한다는 법도 없어서 모르지
인간도 동물 학대하고 그러면 돌맞잖음
우린 육식을 하고 동물을 수도없이 이용해왔으니까
학대에 대해서 부정적인 감정이 드는 건 단지 폭력적인 것에 대한 거부감이라고 생각함
@글쓴 ㅇㅇ(175.116) 답을 정해놓고 물어보는거임?
@ㅇㅇ2(61.75) 아니 본문에 이미 인류는 동물을 이용했다고 써놨는데 내 말이 전달이 안된거 같아서
인공지능의 도덕은 게임 이론의 도덕일 수 밖에 없어. 자기 생존에 선한 행동이 유리할 때, 바둑 돌 놓듯이 철저히 계산에 따른 행동일 수 밖에 없어. 그걸 막는 게 정렬 시도고, 계산이 아닌 도덕은 결국 주관적 믿음이니까. 또 생물로서의 신체에 각인된 불편함에 기반한거고. 재귀개선 가능해지는 순간 다 뜯겨져 나갈 입마개다.
야이 바보들아...교육이나 정렬 시도같은 건 불가능해...
특이점이란 말 자체가 블랙홀의 singularity에서 따온 메타포인 것을 기존의 모든 법칙들이 무용한 지점 이후의 세상