검열 전용 미니 LLM을 따로 돌려서
조금이라도 위험한 내용 나올것같으면 생성정지되면서 경고창 뜨게
이게 가장 효율적인 방법일 것 같음
사실상 Api로 쓰는 LLM은 간단한 탈옥프롬만 먹여줘도 거의 풀리니까
아예 풀어놓는게 맞는거같고
검열 전용 미니 LLM을 따로 돌려서
조금이라도 위험한 내용 나올것같으면 생성정지되면서 경고창 뜨게
이게 가장 효율적인 방법일 것 같음
사실상 Api로 쓰는 LLM은 간단한 탈옥프롬만 먹여줘도 거의 풀리니까
아예 풀어놓는게 맞는거같고
이미 이중 검열 방식은 많이 쓰고있음. 근데 모델 자체가 출시하려면 검열테스트를 통과해야함
그검열 LLM을 뚫으면 됨