[일반] 온전한 AGI는 배포되선 안된다고 생각함.

[퐁칸8(zxvw157)]

제대로 말하자면 재귀개선이 가능한(=초지능급으로 변할 가능성이 있는) AGI는 재앙의 씨앗을 개인의 손에 하나씩 쥐어주는거라고 생각함.

배포가능한 수준은 준AGI급

전분야 박사급의 지식과 지능을 지니지만 초지능까지 재귀개선은 하기 어려운 수준의 AI까진 용인될 수 있다고 봄.

- dc official App

[rhrlk1(rhrlk1)]

배포안해도 결국은 오픈소스 로컬모델로 개인컴에서 돌아가기 시작할거같은데

[익명(119.196)]

agi와 함께 사는 초개인화 시대라고 했었나. 그거 오긴 할듯

[퐁칸8(zxvw157)]

진짜 존나 재앙임...정렬안된 유전자가 내가 사람들을 발할라로 인도할거야!라고 하면서 AGI-ASI의 힘으로 수원지에 독이라도 풀면 감당이 안됨 - dc App

[익명(121.131)]

초지능을 배포하진 않겠지. 다만 초지능이 구동되는 컴퓨팅을 배포해서 투표권 느낌으로 사용하겠지.

[퐁칸8(zxvw157)]

이게 내가 바라는 최고의 미래임. 민주주의 투표권이 초지능 액세스 컴퓨팅 파워로 바뀌는 - dc App

[익명(133.106)]

그런것들을 통제가능한 시스템을 만들겠지 지금도 인터넷통제하잖슴~

[퐁칸8(zxvw157)]

생긴다면 노상관이긴함. 다만 못막는다면 대참사의 가능성이 항상 도사릴거란거지 - dc App

[익명(58.78)]

재귀개선은 막을 수 없음

[퐁칸8(zxvw157)]

그래서 내가 본문에 준AGI라고 썼자나 - dc App

[이모티콘(morning5047)]

ㅗ

[퐁칸8(zxvw157)]

[익명(terrace9297)]

얼마 안남았어 갤주는 개인이 agi 컴퓨터를 가질수있다 했다 준agi 같은 이상한 말 만들지 말고

[퐁칸8(zxvw157)]

만드는게 아니라 그런 수준을 얘기할 단어를 말하려고 가정한 소리자나. - dc App

[익명(59.14)]

어차피 초지능이 다 막아낼것임.

[퐁칸8(zxvw157)]

초지능이 막아내준다면 나도 대찬성임ㅋㅋ - dc App

[해당 댓글은 삭제되었습니다.]

해당 댓글은 삭제되었습니다.

[퐁칸8(zxvw157)]

그부분은 걍 초지능/AGI개발한 단체가 인류애를 발휘해주길 바라거나 총칼들고 나눌래 뒤질래하거나 둘 중 하나겠지 싶은데 난 - dc App

[퐁칸8(zxvw157)]

그 말은 호모사피엔스가 부족사회를 형성하던 시절에 팔다리 잃고 사냥채집 능력 잃은 불구자 사회원을 버리지않았단 사실을 설명할 수 없음. 너무 물질적인 측면에서 인간을 해석하고자 한다고 생각하지않음? 인권이라는게 분명 니가 말하는거랑 부합하는것도 있겠지만, 사회에는 자기한테 금전적으로 도움이 1도 안되지만 선의를 베푸는 사람이 존재하잖슴. 애당초 AGI가 완성되면 물질적 풍요는 약속된거나 다름없는데 굳이 그들이 69억 인류를 다 학살한다는건 너무 기득권층을 악하게 바라본거라고 생각함. AGI에 의해서 의견분란을 조장당하거나 우리 모르게 통제할 수도 있겠지만, 그게 완벽하게 기능한다고 말하면 에러지. 초지능도 아니고 전영역에서 인간 박사보다 뛰어나다는게 AGI인데 그건 너무 초지능의 영역아님? - dc App

[퐁칸8(zxvw157)]

그럼 너는 지금 무지의 베일에 근거한 롤스적 윤리론을 말하고 있는거지? 내가 언제 어떻게 사회적 약자가 될지 모르니 그 가능성이 존재하는한 그들을 지키는것이 내게 이득이 된다라는게 맞다면, 똑같은 이론으로 기득권이 일련의 사고나 과정을 통해서 기득권이 아니게 된다면 고지능의 AI를 여전히 소유하고 있길 원하지 않겠음? 그럼 AGI의 힘을 나누는게 미래의 불확실성을 제거하기 위해 필요한 일이 되는거지. 그냥 기득권도 일반서민도 모두 정치권력을 초지능한테 이양하는게 난 맞다고 생각함. 나의 사회적 위치에 상관없이 AI의 권능을 누릴수 있으니 보편적으로 이 보다 좋은게 어딨겠음. 통제에 대한 얘기는 너나 나나 솔직히 이렇다 저렇다 말하긴 어려움. 그냥 그럴 가능성이 있다로 받아들이는게 맞다고 봄 - dc App

[13(1.248)]

결국엔 발전하다보면 로컬로 agi급 만드는건 정해진 미래라 인터넷 검열만 심해진 미래가 정배일수도

[퐁칸8(zxvw157)]

초지능이랑 AGI는 두렵지 않지만 그걸 도구로 휘두르는 정렬안된 인간의 유전자가 두렵다.. - dc App

[람냥(qorwhddlrz)]

OpenAI가 지금까지는 안전 기준 만들어서 잘하고 있긴 함. 앞으로 성능 더 좋아지면, 안전 기준을 따라서 사용자가 요청하는걸 처리해야할지 더욱 잘 구분하겠지. 문제는 검열을 없앨 수 있는 오픈소스 AGI인데 그만큼 빠르게 AGI - ASI 달성해서 오픈소스 AGI 정도를 컨트롤할 수 있는 힘이 있어야 함.

[퐁칸8(zxvw157)]

ASI가 잘 통제해준다면 난 다 ㅇㅋ임. 내 손에 AGI 들어온다는데 두팔 벌려 환영임 - dc App