[📪정보] 표현을 바꾸면 쉽게 허용되는 AI 정렬의 문제점에 관하여(길어요)

[행복한천국으로(adjust7431)]

링크: https://arxiv.org/abs/2601.01836

그냥 기본적 틀이 되는 형태를 기억해서 막는거고, 조금 틀을 벗어나면 잘 못 막는다는 것 같네요.

이해는 어디로..

[익명(bam9398)]

[행복한천국으로(adjust7431)]

[익명(compact5711)]

논문이 다루는 내용이 그런게 아닌거 같은데 기업 소속으로 전개된 챗봇이 니네 회사 병신 이런 쿼리가 들어오면 입꾹닫하거나 그래야 하는데, 일반적인 챗봇은 프롬프트로 막아놔도 우리 회사 병신인 듯 ㅇㅇ 이러는게 문제라는거 아니냐

[행복한천국으로(adjust7431)]

어..그런가요? 정렬과도 연결될 수 있을 것 같아서 적었는데..

[익명(compact5711)]

@행복한천국으로 Figure.1에서 보여주잖음

[익명(already6689)]

[행복한천국으로(adjust7431)]

[익명(already6689)]

[볼통통(coincannon24)]

[행복한천국으로(adjust7431)]