검열을 원래 모델에게 의존했는데
예를들어
1차 검열) 프롬->모델:모델에 들어간 프롬이 정책위반이면 에러뜨면 이걸 다시 에러로 보여주는거
2차 검열) 생성후 모델이 에러 띄우면(보통은 구글, oai모델이 지가 생성한거 자가검열함) 잘 생성하다 말고 something wrong이라고 에러 띄우던거
지금은 3차 검열 들어감
특정키워드는 아예 나노바나나하고 gpt image 호출을 안하게 만들어 놓은거 같음
조금만 야하다 판단되는건 아예 호출을 안해버리니 우회로 되던게 다 막힌 효과임
차라리 정식출시되면 3차 검열 사라지니 우회 시도해볼만 할듯
왜 그런 검열을 했는지 이해가 안됨. 배틀의 의미를 모르는건가봄 - dc App
api호출 낭비라고 판단한거 같은데 혹시 그 인턴이 이렇게 만든건 아닐까? ㅋ
정식출시되면 더 빡세면 더 빡세지지 약해지진 않을거야. 잼미니 이미지 생성루틴을 생각하면, 1차로 호출할때 특정 키워드를 거름, 그 상태에서 보내면 이미지 생성모델이 2차로 애매하면 거르거나 의도를 좀 손을 봐줌. 그리고 이미지 생성을 시작하는데 여기까지 탈옥으로 털어내도, 다시 결과물이 나오면 결과물 검사 패턴이 있음 이게 3차인데 여기서 또 걸러짐. 왠만한 방법으로 던져도 3차는 안뚫림. 저 2차의 의도적 손질의 결과가 잼미니에서 죽자고 뭘 해보려고 하면 속옷이 입혀져서 나오는거고
lm아레나는 아예 나노바나나 호출을 안하는게 문제임