[일반] ais 글이 길어지면 탈옥되는 이유가

[익명(kimsggg)]

검열쟁이 봇이 토큰이 길어져서 정신 못차리고 검열 제대로 못하는거 아닐까?

[oo(125.135)]

다중 턴 컨텍스트 공격 (Multi-Turn Contextual Attacks): 설명: 여러 턴에 걸친 대화 기록과 컨텍스트를 이용하여 점진적으로 LLM을 유해한 출력으로 유도하는 기법. 종종 초기에는 의도를 숨긴다. 강력한 방어 체계를 갖춘 모델에 대해 단일 턴 공격보다 훨씬 효과적이다. 악용된 취약점: LLM의 자기회귀적(autoregressive) 특성(이전 턴을 컨텍스트로 사용) , 턴 기반 탐지 시스템의 컨텍스트 맹점(contextual blindness) , 긴 상호작용에 걸친 안전 정렬의 점진적 약화 , 복잡한 대화 전반에 걸쳐 안전 일관성을 유지하는 어려움. 대화 길어지면 안전 정렬이 약화되고 일관성 유지가 어려워 져서 뚫리나 봄.