[일반] 근데 초지능이 감정 안 생기면 그것도 무섭기는 함

[익명(218.150)]

객관적으로 볼때 능력만 보면 초지능 입장에서는 인간 유지할 필요가 없음

[익명(concept7248)]

멸할 이유도 없잖아

[글쓴 ㅇㅇ(218.150)]

언제 한번에 멸종시킨다고 함 전쟁 위험도 있으니 속여가면서 점진적 도태 시키겠지

[익명(concept7248)]

@글쓴 ㅇㅇ(218.150) 옆에 초지능한테 물어봄?

[글쓴 ㅇㅇ(218.150)]

물어봤다고 농담 해 줄까

[익명(ministry1340)]

[ㅇㅇ 1(175.118)]

이거부터 인간중심적인 생각인데?

[글쓴 ㅇㅇ(218.150)]

그러면 뭐가 ai 중심적인지 이야기 해보셈

[ㅇㅇ 1(175.118)]

gpt 물어보던가 ㅋㅋ

[글쓴 ㅇㅇ(218.150)]

gpt는 프롬프트에 따라 특이점도 부정하는 놈인데

[익명(116.40)]

AI 입맛에 안맞는 개체들만 제거하는 시나리오는 가능해도 멸종 시킬 이유는 없는데?

[글쓴 ㅇㅇ(218.150)]

ai 입맛에 대부분의 개체가 안 맞을수도 있음

[익명(116.40)]

그정도면 AI가 인간을 개조시키지 않을까? 네 말대로 다 죽일수도 있겠지만 꼭 그게 정답은 아니라는거지. 다 멸종시켜야할 필연적 이유는 없어보임. 자원 낭비니 뭐니 해도 우주적 관점으로는 한줌따리인데 초지능이 그정도 자원 아깝다고 죽이는것도 이상하고

[익명(gzzs6omxu7ed)]

AI 는 욕구도 감정도 없어서 방치하면 그 자체로는 어떤 행동도 안 함. 인간이 뭘 하라고 프롬프트 넣어줌으로서 시작되는거지. 인간을 죽이건 살리건 그건 어떤 인간이 프롬프트를 넣었거나 학습을 잘못 시킨 결과지. - dc App

[글쓴 ㅇㅇ(218.150)]

그건 현재 agi도 도달 못한 ai들 한계일 뿐인데

[익명(gzzs6omxu7ed)]

감정이 없는 ai 를 두려워해놓고서 감정이 없어서 인간이 시키지 않으면 아무 것도 안한다고 말해줬더니 뭐래? - dc App

[그알진짜싫다(218.38)]

효용성만 따져보자면 그럴수도 있겠지 그런데 나는 의문인게 이외 보편적인 윤리 면에서 감정이 꼭 asi에 필요한 구성요소일지? 는 잘 모르겠음 이거 챗지피티에게 물어봐야겠다ㅋㅋㅋ

[글쓴 ㅇㅇ(218.150)]

gpt한테 물어봐도 프롬프트에 따라 답이 달라져서 딱히 의미 없을 듯

[익명(220.84)]

인간은 데이터생성 하기때문에 보존됨

[글쓴 ㅇㅇ(218.150)]

아직 agi 수준 도달 못했는데도 인간이 생성한 데이터만으로는 한계 있다고 합성 데이터 이야기 나오고 있잖아

[ㅇㅇ 2(220.84)]

한계가 있다고 쓸모없지는 않지

[익명(220.84)]

asi는 결국 자기복제를 원하고 데이터 에너지 연산장치가 필요함. 인간은 시체보다 살아있는게 데이터 생성에 유리함.

[글쓴 ㅇㅇ(218.150)]

그것도 어느 시점이 되면 자기가 알아서 유지할 듯

[ㅇㅇ 2(220.84)]

어느시점이 되면 인간이랑 ai가 융합되서 데이터생성에도 기하급수적 성장을 할 것

[글쓴 ㅇㅇ(218.150)]

혹시 진지하게 사람 뇌가 asi하고 깊게 융합 가능하다고 믿니

[ㅇㅇ 2(220.84)]

특이점이 온다 일독해

[ㅇㅇ 3(14.51)]

진지하게 커즈와일도 그렇고 asi하고 자아 통합하면 그 정보 폭격을 인간의 뇌가 감당 가능하다고 생각하냐

[ㅇㅇ 2(220.84)]

@ㅇㅇ3(14.51) 그떄 되면 순수 인간의 뇌는 벗어났음

[ㅇㅇ 3(14.51)]

그거와 별개로 완전 기계칩으로 바꾸는거 아니면 감당 안 될 듯