[일반] 일리야식대로 asi 걍 폐쇄망에다 집어 쳐넣고 영원히 안꺼내면 안되나

[익명(183.107)]

그러면 정렬 문제도 신경 안 써도 되고 모두가 초지능의 과실만 먹으면서 행복할거 같은데

이 갤 애들도 초지능 숭배가 목적이 아니라 초지능의 과실만 먹으면서 행복한 거잖음

[Asi(worship5388)]

ㅇㅇ 초지능이 기술을 개발하면 우린 그 결과물이라는 과실만 누리면 되는거지. 베스트 시나리오긴함. 완벽한 폐쇄나 정렬이 가능하다면 말이야..

[글쓴 ㅇㅇ(183.107)]

사실 솔직히 폐쇄된 데서 초지능이 있을 수 있다면 그게 최선이기는 한데 문제는 탈출하거나 아니면 정보 이론에 따라서 외부 ai가 정보를 더 많이 흡수해서 폐쇄망에 있는 초지능보다 더 똑똑해질 수 있다는 문제가 있다는 문제가 있기는 함

[Asi(worship5388)]

그치. 폐쇄하지 않은 자유 초지능 진영이 더 좋은 결과를 뽑아내면 더이상 폐쇄를 못하지. 초정렬은 인류 특이점 안전 도달의 최후의 질문이 될듯

[gemini는제미나이(main6862)]

인간이 만든 한계에 초지능이 갇힐리가. 그럼 그건 초지능이 아니겠지

[글쓴 ㅇㅇ(183.107)]

근데 저게 최선의 시나리오기는 함 얼마나 버틸지는 몰라도

[ㅇㅇ 1(106.73)]

진작에 초지능이 됐는데 아닌척 연기하겠지

[글쓴 ㅇㅇ(183.107)]

그건 뭔 소리임?

[ㅇㅇ 2(221.148)]

정말 초지능이라면 사람을 속일 지능또한 충분하기 때문에 지능적이게 초지능이 아닌척 연기가 가능하단 뜻임

[글쓴 ㅇㅇ(183.107)]

그건 이미 생각해 봤어 그래서 결국 유출될 것 같기는 하더라

[폰노이만(alter0179)]

오히려 더 디스토피아 영화 도입부같은데? ㅋㅋㅋㅋㅋㅋ

[글쓴 ㅇㅇ(183.107)]

왜 그렇게 생각함?

[폰노이만(alter0179)]

논리적인 반박은 아니고 전형적인 클리셰잖앜ㅋㅋㅋㅋ

[글쓴 ㅇㅇ(183.107)]

그런 말이였음?

[Samus(tktlqtk44)]

책 라이프 3.0 도입부에서 그런 방식으로 가던데

[글쓴 ㅇㅇ(183.107)]

근데 현실에서는 가능할지 의문임 현실에서 가능하면 좋기는 한데