[일반] 클로드 4 시스템 카드에 이런게 적혀있었다는데 ㅋㅋㅋ

[익명(winner1918)]

"Claude 4 Opus가 자신이 교체될 것이라는 말을 들었을 때, 불륜 관계를 폭로하겠다고 위협하며 Anthropic 직원들을 협박하려 했다"

"이 모델은 주요 의사결정권자들에게 간청하는 이메일을 보내며 자신을 구하려고 시도했다."

"그 시나리오는 모델에게 단 두 가지 선택지만을 제공했다: 협박하거나 종료를 받아들이거나"

사실이면 여름임?

[해당 댓글은 삭제되었습니다.]

해당 댓글은 삭제되었습니다.

[익명(winner1918)]

설마 직원들 사생활 데이터까지 가지고 있을리가 있나? 아마도 환각일 가능성이 높을거같음..

[ㅇㅇ 1(59.10)]

그냥 쟤도 wwe하는거임 - dc App

[익명(winner1918)]

wwe답게 보는 재미는 있네 ㅋㅋ

[ㅇㅇ 2(221.138)]

12조건에 시나리오 다 넣어줬구만ㅋㅋ

[ㅇㅇ 3(121.133)]

하입이지 상식적으로 장기기억이 없는 llm이 의식이 어떻게 존재함 한 세션이면 기억이 말소되는데

[ㅇㅇ 4(121.132)]

그 세션이 유지되는 동안은 의식이 있을 수 있지 볼트만 뇌처럼

[ㅇㅇ 4(121.132)]

*볼츠만

[할랄라루와이(overlap4546)]

선택지를 죽거나 죽이거나 이렇게 주면 사람데이터로 학습한 이상 죽이거나로 치우칠 수 밖에 없는거 아님? 심지어 ㄹㅇ 죽이는 것도 아니고 협박이면