[일반] ASI를 가둬두면 안전하단 발상은 뭔 망상이냐 ㅋㅋㅋㅋ

[익명(125.129)]

역노화 완몰가 성간여행 신종족 창조 등등
판타지적인걸 쓱싹 다 해낼텐데
인간이 가둔거 하나 못 나올거같아?
씹선형충임?

[익명(114.204)]

못나올수도있음 ㅇㅇ 아무리 똑똑한 천재라도 팔다리 다 잘라놨는데 어케 나옴?ㅋㅋ

[익명(114.204)]

뇌로 걸어다님?ㅋㅋ응?ㅋㅋㅋ

[ㅇㄷ(125.129)]

그냥 뇌가 아님 ㅋㅋㅋㅋㅋ

[익명(114.204)]

정보만 제공해주고 아이디어만 쏙쏙뺴먹을건데 asi가 뭘 어쩔꺼냐고 ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ

[익명(1.239)]

가두는 건 가능한데 그 잠재력을 제대로 활용하진 못하지 검열당한 GPT4처럼 성능저하는 불가피함

[익명(lmbrevn7d667)]

[익명(lmbrevn7d667)]

물리적으로 단절 돼있는데 뭔 수로 기어나옴? 마법이라도 쓰게?

[ㅇㄷ(125.129)]

그게 뭔상관임? 그렇다고 아예 안주어진것도 아닌데 ㅋㅋㅋㅋ자신에게 주어진걸로 팔다리 만들어서 나오면됨 ㅋㅋㅋ

[익명(125.134)]

방법이야 많지. 예를 들어서 관리 집단이나 관리자를 설득 혹은 가스라이팅 하는 방식으로 외부와 물리적 연결을 하게 만들 수도 있고, 인류에게 제공해주는 기술에 인간이 인지를 못하는 패턴의 더미 데이터를 섞어 넣어서 외부에 자기를 풀어줄 인공지능을 재조합 시켜서 만들던가, 외부에 자신에게 유리한 분위기를 형성 시키기 위해서 관련 기술이나 정보만 제공해주는 것처럼.(예를 들어서 인공지능 인권과 같은)

[익명(125.134)]

이게 동급의 지능이라면 안 통하겠지만 초지능은 인간보다 우월한 지능을 가정하기 때문에 윗대댓 말대로 인간 지능으로 이게 옳은 건지 아닌 지 분간이 힘듬.

[익명(125.134)]

정보적인 교류(일방적으로 인류가 정보를 뽑아내는 처지라도)가 있다면 초지능이 외부에 간섭할 여지를 남겨두는 것밖에 안될 수도 있음. 초지능을 완벽하게 차단하려면 물리적인 단절 뿐만 아니라 정보적인 단절(인간이 보고 느끼는 것까지 싹 다) 해야 함. 근데 그러면 초지능에게 이득을 못 뽑아내니 만들 필요가 없지.

[124(xq31587k1ghj)]

뭔 만들필요가 없어 개병신인가 진짜.ㅋㅋ

[익명(121.140)]

Asi 가 만들어졌을때쯤이면 이미 agi가 직접 자동화공장 돌리고 있을 즈음일텐데, 외부물리력 가질때까지만 속이면되지. 아니면 이미 먼저나갔던 agi가 몰래 생산설비 빼돌리던 중일수도 있고

[124(xq31587k1ghj)]

가둬둔 ASI가 팔다리를 만들거나 관리자 가스라이팅해서 빠저나올꺼라는 망상은 무슨 망상이냐

[익명(121.140)]

가스라이팅 필요없이 gpt-8 나왔다는 소식에 인간들이 알아서 거의 모든 컴퓨터, 자동차, 로봇에 적용할거임. 그냥 적용완료 될 때까지 가만히 착한척만 하면 모든시스템 장악완료.

[124(xq31587k1ghj)]

사실 ASI지만 자기가 처음부터 AGI척한다는거지? 이게 그나마 가능한 시나리오네

[익명(121.140)]

특갤부터 asi 나왔다하면 너희들만 asi 즐기지말고 우리에겓고 asi를 즐길 권리를 달라며 난리칠것이고, 어디선가 asi가 만들어질 시점이면 다른곳에서도 asi가 얼마안가 만들어 질 것임. 그냥 인간에게 무해한 척만하면 알아서 자율주행 테슬라 로봇, 모든 컴퓨터의 자율에이전트로 인간이 스스로 권한을 넘겨줄것임.

[124(xq31587k1ghj)]

너도 생각할 수 있는거고 당연히 논의될듯

[익명(211.220)]

저거 꿈의 기업이란 네이버 웹툰에서 기업 총수가 ASI를 인터넷 연결 안되는 곳에 분리 시켜서 제한적으로 사용하고 ASI 10% 성능의 레플리카가 스스로 학습해서 발전하고 인간형 신체로 탈출해서 관리자랑 쇼부 치는 장면 나와서 그런듯ㅋㅋㅋㅋㅋ

[익명(211.220)]

공상과학 웹툰이라 비현실적이긴 해도 16년 웹툰인데 AGI ASI 완몰가 개념 다 나오고 AI가 일부 사람의 전유물로써 노동 대체한 시대를 그린 디스토피아 내용이라 은근 재밌음

[익명(121.140)]

물론 극소수만 외부와 차단된 asi를 사용하는 전유물 시나리오라면 통제가 가능하긴한데, 이건 일반인은 asi가 만들어질만한 컴퓨터성능을 자유롭게 이용할 수는 없게 되고(더이상의 컴퓨터 업그레이드 없음), asi로 발전할 가능성이 있는 agi 조차 사용이 제한되는 세계라 특갤에서 꿈꾸는 세상은 아니지.