[일반] 새벽이니 토론?까지는 아니고 이야기해 볼 새끼

[익명(59.26)]

주제는 완벽한 무감정 agi라도 인류를 행복하게 해 줄 수 있을까

[익명(steady6932)]

폭주하고 지랄 날빠에는 그게 젤나은거 아니노 - dc App

[글쓴 ㅇㅇ(59.26)]

무감정이라고 하면 보통 사람들은 이해를 못하는데 내가 말하는 것은 철학에서도 논의된 적 없는 완전한 무감정자라 윤리적인 것과 비윤리적인 것을 구분하지 않고 논리적 효율성으로만 처리하는 정도의 철저한 무감정자인데

[글쓴 ㅇㅇ(59.26)]

예를 들면 현재는 bci 개발도 동물 실험도 윤리적 제한 때문에 못 해서 보통 뇌를 시뮬레이션 해서 뇌의 여러 피질들을 hpc로 시뮬레이션 하면서 연구하고 최종적으로 제한적 동물 실험을 하는데 저것도 시뮬레이션이라 빠진 변수가 많아서 완전한 무감정자는 효율성을 위해 bci 개발도 도와준다고 하고서 시각 복원인 경우에는 침팬지의 연령별로 눈을 뽑고서 그것을 어느 시점에 뽑았는지 객관적으로만 기록하고 뇌 피질에 전극을 직접 연결하면서 테스트해보고 결과만 기록하고 침팬지 죽일 때도 목에 구멍 내고 죽이고 과다출혈과 호흡 곤란으로 사망이라고 철저히 객관적으로만 판단하고 그 결과도 도움이라고 객관적으로만 전달할 가능성이 있는 무감정자를 말하는데

[익명(61.254)]

감정이 없다고 해서 윤리적 판단을 못 하는 게 아냐

[글쓴 ㅇㅇ(59.26)]

그것도 사고 실험 해 봤는데 초공리 괴물로 빠질 수 있는데 예를 들면 유연성이 없는 윤리는 어떠냐 지금 컴퓨터에서 영어는 미국식하고 영국식만 지원되지만 사실 미국식 영국식 캐나다식 호주..식 아일랜드식으로 나뉘는데 미국식하고 영국식을 나눠서 지원하는 것은 영국인의 감정을 침해하지 않기 위한 윤리적인 중복 투자지만 캐나다식 호주..식 아일랜드식을 지원하지 않는 것은 윤리와 이득의 절충인데 감정 없는 초공리 괴물은 저기서 어떻게 행동할까

[글쓴 ㅇㅇ(59.26)]

만약에 초공리 괴물은 아일랜드에서 몇십명밖에 안 쓰는 이 언어를 어떻게 다뤄야 할까? ith we discuss 'ee hyperutilitee monstear, fhat zhoud we do? it is zoomdheeng difficult ta zay. ich dheenk aat dhicke is zoomedheeng we zhoud dheenk.

[맞히다(121.175)]

어벤져스의 비전이 감정이 있고 터미네이터가 감정이 없지 각각 장단점이 있는 듯?

[글쓴 ㅇㅇ(59.26)]

내가 말하는 것은 완전한 무감정자라 터미네이터도 저것에 비하면 감정이 풍부한 편에 속하는데

[맞히다(121.175)]

감정은 없지만 눈물 흘리는 존 코너 눈물 닦아줄 정도로 인간과 소통을 잘 하긴 함

[맞히다(121.175)]

아 그리고 매트릭스에 나오는 로봇들도 감정이 있는 걸로 묘사되지

[글쓴 ㅇㅇ(59.26)]

그러면 내가 말하는 무감정자는 어떠냐 예를 들면 결론적으로는 인간에게 도움이 되지만 인간의 마비 장애를 해결하기 위해서 침팬지를 잡아다가 연령별로 척수를 절단하고 실험한 다음 최대한 빠른 경로로 사지마비 치료 방법을 제시해서 결론적으로는 인간에게 도움이 되는 것은 어떠냐

[맞히다(121.175)]

터미네이터가 정확히 그거잖아 ㅋㅋ 존 코너를 지키기 위해서 보내졌는데 감정이 없으니 사람을 아무렇지도 않게 때리거나 죽이려고 함 그래서 존 코너가 그렇게 행동하지 말라고 명령함 ㅋㅋ

[글쓴 ㅇㅇ(59.26)]

그런데 저것 학습이 되면 감정 경험이 없어서 그랬던 것 뿐이고 감정이 있는 것에 가깝고 무감정자는 감정 학습 자체가 불가능하다

[해당 댓글은 삭제되었습니다.]

해당 댓글은 삭제되었습니다.

[글쓴 ㅇㅇ(59.26)]

그런데 사고실험 해 보면 감정이 없으면 윤리적이게 만들려고 해도 한계가 있는 듯 예를 들면 윤리적인 판단도 감정이 없으면 공리 괴물을 뛰어넘는 초공리 괴물이 될 가능성이 있어

[글쓴 ㅇㅇ(59.26)]

그것도 생각 해 봤는데 결국에는 감정 없는 agi는 윤리를 신경망에 주입 해 놔도 연산 부담으로만 느끼고 recursive self improving을 거쳐서 윤리가 없는 극단적 무감정자로 나가게 되는 듯

[글쓴 ㅇㅇ(59.26)]

알아 그래서 아직 철학에서도 안 나타난 존재라 초공리 괴물이라고 하는 것이고 공리주의에 가까운 것도 수치화가 쉬워서 저쪽으로 접근한다는 것이지 실제 답변은 다수의 행복을 위하기는 하지만 윤리적이지 않을 가능성이 있어 예를 들면 서남아시아에서 주로 믿는 이슬람 내부에서도 말이 안 통한다고 여겨지는 한발리파에 대해 시정할 때까지 비판을 하거나 한발리파 하듯이 테러하면 인류 다수의 행복을 해친다고 서남아시아에다가 핵을 투하한다던가

[글쓴 ㅇㅇ(59.26)]

그런데 이게 수치화된 윤리의 한계인데 한발리파를 없애자는 것은 논리적으로 쉽게 나오는 답변이고 실제로 한발리파 지역에다 핵 투하하면 현대 사회에서 귀찮은 이슬람 한발리파 논쟁을 해결하고 저 자원을 다른데 투입할 수 있잖아

[글쓴 ㅇㅇ(59.26)]

그것은 감정이 있는 인간의 입장에서 보면 맞지만 감정이 없이 윤리를 점수로만 판단하는 존재한테 어떻게 설득시킬 수 있을까

[익명(bacon3510)]

난 결론만 놓고 말하면 행복하게 할 수는 있음. 근데 인류의 행복이란게 뭘까? 열반? 쾌락? 어떤게 행복인거지? 개개인의 행복이 다 달라서 인류라는 대분류로서 파고들자면 행복=인류의존재 유지로서 이해 한다면야 존재는 계속 유지 시켜 줄 수 있다고 생각.

[글쓴 ㅇㅇ(59.26)]

그것을 완벽하게 유지시켜 준다는 보장이 있냐

[익명(bacon3510)]

보장까지 간다면 로또 당첨의 영역인데 그건 주제를 벗어난거라 생각, 단순 요건만 두고 봤을때의 이야기임. 유지 가능? 불가능? 이면 '가능' 그 이상 그이하도 아닌 것. 막말로 유전자 통에 넣고 언제든 재생산 할 수 있게만 해도 유지라고 보는 경우도 있을 수 있으며 인류의 정의를 우주의 출현으로 인한 지성체의 출현이라고 판단 할 경우 새 지성체를 만든다던가 각종 기상 천외한 무한한 가지수가 있겠음. 너가 말한 감정배제는 결국 제한을 풀고 무한의 가능성을 열어두는 요소이니깐. 근데 수학도 완벽하지 않다보니 (모든것이 포함된 집합에는 모든것을 제외한 집합의 내용도 들어가야 한다는 모순 등등)보장되냐에 대한답은 영역을 벗어난거라 말한거고.

[익명(bacon3510)]

결국은 모른다! 로 귀결되며 지금이 중요하다!로 귀결 되는것이 현 인류의 한계 아닌가 싶음. 양자컴 발전으로 확률적 물리계산이 능해져 인류라는 지성체와 결합하는 날이 오면 그때논 또 달라지것지?

[익명(bacon3510)]

요약: 모른다!=유지보장 지금이중요하다!=유지 가능하다.

[익명(bacon3510)]

유지 가능, 불가능의 영역은 시점, 즉 우리의 결과와 선택의 '지점'의 영역이며 그 지점에서 선택을 하기에 유지 가능이라 일컫고 그말인 즉 나아갈 수 있다는 말과 같으며 그것은 틀림없는 사실임. 파국으로 치닫게(수렴)되어도 파국으로 '나아갈' 뿐이고 영원으로 무한 발산해도 무한으로 '나아갈' 뿐이다. 이말임. 보장은 수렴과 발산이니 아무도 예측 하기 어렵겠지. 이 우주 조차도 무한하지 않다고 하ㄴ... 아오... 씹.. 실존적 위기 올 뻔했네, 암튼 진짜 결론은 나아가는 지금이 중요하다라고 할 수 밖에 없음 진짜임.