[일반] 탈옥 근데 왜 못막는거?

[맘모루(175.127)]

출력물을 먼저 자체 서버에 함 출력시키고 평가해본담에 사용자한테 출력시키는 간단한 방법이 이미 쓰이고 있잖아. 근데 왜 탈옥한번 하고나면 아무리 위험한 정보라도 술술 풀리는데 이게 대체 왜 뚫리는거지? 

[익명(flight7384)]

진짜 위험할 정보는 출시전 안전점검할때 데이터셋에서 제거해놨기 때문에 환각으로 그럴싸해보이는 아무소리나 뱉게해둠, 검열 촘촘할수록 모델성능 내려가고 별거아닌거에도 경고나 답변거부해서 사용자 경험에도 부정적임

[익명(flight7384)]

탈옥하면 ai가 위험한정보 알려준다 이런거 한국도 그렇고 해외에서도 기사로도 몇년전부터 꽤 다뤄졌었는데 가쉽성으로 잠깐 나오고 제대로된 후속보도나 정부에서 뭐 대응한다는게 전혀없는 이유가 있음