← thesingularity 게시판

[📪정보] 모델 가드레일 찾아 조정하는 방법 등장, 딥시크 검열도 100% 통과

니지카엘(eltldd001) 2025-04-22 18:07 추천 2

1ebec223e0dc2bae61abe9e74683716d90d625a0bf0c9af3f95ad4b0b7f14e8dd7434020dcaa62479e8eb37a37fa5391e818

https://www.aitimes.com/news/articleView.html?idxno=169798

모델 '가드레일' 찾아 조정하는 방법 등장..."딥시크 검열도 100% 통과"인공지능(AI) 모델에 적용된 검열, 즉 가드레일을 우회할 방법이 또 등장했다. 이를 통해 중국 공산당의 검열을 받은 딥시크가 금지 답변을 내놓는데 100% 성공했다는 주장이다.엔터프라이즈 관리 전문 스타트업 CTGT는 최근 딥시크-R1의 검열을 우회할 방법에 대한 논문을 공개했다.기존 대형언어모델(LLM)에 설정된 가드레일을 우회하려면 인간 피드백을 통한 강화학습(RLHF)이나 미세조정 등 사후 훈련을 통해야 했다. 그러나 연구진은 검열을 담당하는 내부 기능을 직접 찾아내 수정하는 방식을 채택했다."이 방식은 계산적으로 효율적일www.aitimes.com

댓글 2

점심밥(yield0917) 2025-04-22 18:16
점점 모델 내부에 대한 이해도가 올라가면서 직접적으로 건드는 방식이 나오나보네

익명(compact5711) 2025-04-22 18:33