당연하다고 생각할수도 있고 모를수도 있는 내용인데

딥러닝 모델에서 제일 효과적인 검열 방법은 학습을 반대로 시키는거임

그러니까, 특정 욕설이나 혐오 문구가 있으면 그거를 반대로 학습시켜서 더이상 그 문구가 나오지 않게 하는거임


5년전에 gpt3 나왔을때 기억남?

그때도 LLM 파라미터 늘리니까 갑자기 성능 확 올라가고, 입력에 예시 주면 성능 팍팍 올라간다 그랬잖아?

5년이 지난 지금도 각 요소 혹은 학습한 내용이 정확히 LLM의 어떤 부분에, 어떤 상황에 영향을 주는지 파악하기 어려움

근데 이런 식으로 거꾸로 학습시키는 찐빠를 내면 당연히 지랄남






이건 불과 반년전에 나온 LLM 검열 방법임 (https://arxiv.org/pdf/2408.04983)

자기네가 시도한 방법(회색 부분) 이 '다른 방법들에 비해 검열할 부분만 검열하고 나머지 부분은 살린다' 라고 주장하는건데

중간 컬럼에 perplexity랑 MAUVE라는 평가항목 보임? 

이거는 로그단위로 생각하면 됨. perplexity는 낮으면 낮을수록 좋은데, 20인거랑 10인거랑은 성능이 2배가 아니라 4배 차이가 나는 지표임.

제아무리 뛰어난 검열 방법이라도 검열 대상 외 데이터셋에 대해서 original (맨 위, 검열 안한 버전) 에 비해 perplexity가 현저히 높지?

MAUVE도 마찬가지임. 일정 수준 이상에서는 95~이상으로 수렴하는게 정상인 평가방법임. 일부러 그래서 2.7B짜리 요즘 쓰지도 않을 초소형 언어모델을 쓴건데,

그런걸 썼음에도 불구하고 성능이 현저히 하락해버리는거임.




네이버 하이퍼클로바X는 이런 검열을 진짜 악착같이 해서 내놓은 모델임

결국 cue:라고 하이퍼클로바X 탑재한 검색모델은 당일 날짜가 언제인지도 모르는 병신이 되었음

근데 국회에서 네이버 AI 아자 이러고 있는거 보니까 좀 좇같네 ㅋㅋ