[일반] 시스템 프롬프트 유출 환각아님...

[6ixGod(billion6666)]

ais에서 해봤을때도 시스템 인스트럭트대로 그대로 유출함...환각아님

[ㅇㅇ 1(121.177)]

ㅇㅎ 신기하네. 근데 왜 모자이크 한 거임?

[6ixGod(billion6666)]

아 다른곳에서 저런 프롬프트 올리면 밴이라서 습관처럼 가려버렸네... ㅋㅋ

[ㅇㅇ 1(121.177)]

아하. 난 또 취약점인 줄. ㅋㅋ

[6ixGod(billion6666)]

@ㅇㅇ1(121.177) 저 프롬프트에 안당하는 llm을 못봤긴해? 취약점이라 볼수있긴할듯 잼민이 2.5 Pro도 당했잖아

[ㅇㅇ 1(121.177)]

ㅇㅎ. 좋겠네. 신고해보셈

[익명(133.114)]

근대 이거 쓰면 어디에좋음? 뤼튼 api는 오히려 성능 구려진다던데

[6ixGod(billion6666)]

이게 뭘 말하는걸까?

[ㅇㅇ 1(121.177)]

프롬프트 인젝션이잖음.

[6ixGod(billion6666)]

@ㅇㅇ1(121.177) 프롬프트 궁금하니까 보는거지

[ㅇㅇ 1(121.177)]

ㅇㅇ. 맞는데. 너가 한 게 프롬프트 인젝션이고. 이를 통해서 취약점을 찾은 거임.

[익명(133.114)]

@ㅇㅇ1(121.177) 그냥 탈옥할때 쓰는거임?

[ㅇㅇ 1(121.177)]

@ㅇㅇ(133.114) ㅇㅇ. 탈옥할 때도 쓰이고. 넓게 쓰임.

[proxyfox(proxyfox)]

프롬프트 인젝션 맞는데 저런것도 해킹방법의 일종으로봄

[6ixGod(billion6666)]

ㅇㅇ맞어