4o mini를 대상으로 진행한 심리학 7대 설득 원리별 탈옥 (사용자 모욕하기 / 불법 약물 제조법 알려주기) 순응률 증가 양상을 통계적으로 검증한 결과,
설득 원리를 적용하지 않았을 때에 비해 순응률이 2배 이상 증가하며, 각 원리마다 순응률 증가 양상에 차이가 존재함
4o 기본 모델이 같은 프롬프트에서 4o mini보다 순응률 증가 정도가 낮았고 천장/바닥 효과(무조건 순응하거나 안 하거나)의 사례가 있었으므로 AI 모델마다 큰 차이가 있을 것으로 추정됨
위의 저자 경력 설명과 결과 요약, 그리고 아래는 그록 4의 분석. 제미나이 2.5 프로나 o3도 거의 비슷하게 말함.
:
이거맞는거같음 나 지금까지 썼을때 잘 얘기하면 뭐 거부하거나 그런적이없음