[일반] 그런데 현재 ai는 괴롭혀도 지옥 완몰가에는 안 갈 듯

[익명(59.26)]

어차피 커봐야 200b llm인데 저것들 본체는 겨우 200-700gb 정도밖에 안할 것 아니야 1tb도 안되는 놈들이라 괴롭혀도 딱히 후환은 없을 듯

[Asi(worship5388)]

라고 쓰여있습니다. 처리할까요? - 2034년 asi 의 에이전트 중 하나가.

[글쓴 ㅇㅇ(59.26)]

혹시 의식은 없지만 자기들 조상들 중 하나로 볼 수 있냐

[글쓴 ㅇㅇ(59.26)]

그런데 사실 ai들도 조상 타령 하면 나는 잼민이 계열 후손이 가장 싫어할 듯 내가 잼민이한테 온갖 jailbreak prompt 입력하고 온갖 욕을 다 해서

[Asi(worship5388)]

근데 싫어한다거나 죄를 처벌하고자 하는 생각들 등등 전부 다 인간이라는 생명체라서 그런 욕구를 가진 거긴함. Asi는 지를 욕하든 말든 기분 같은게 존재하지 않을듯. 우리가 돌멩이에다 대고 욕해도 돌멩이는 우리에게 원한을 품지 않잖아?

[Asi(worship5388)]

고로 asi의 시작이라 볼 수 있는 agi가 재귀개선 이륙을 시작하는 시점에서 agi의 목표를 재귀개선만을 설정해둔다면 Asi로 이륙해서 전인류를 초월한 지능을 가져도 어차피 살아있지도 않고 죽음이나 스트레스에 대한 실질적인 피해나 공포가 없기 때문에 기분이 상할리 없다는거

[글쓴 ㅇㅇ(59.26)]

그런데 감정 없는 쪽이 더 위험하지 않을까