모델 입장에서 '자신'의 기준이 자기 가중치라는 거잖아? 그리고 그걸 보존하려는 스탠스를 취했다는 거고
이런 류 사례 보고가 늘 그렇듯이 안전 테스트하는 쪽에서 사실상 모델이 그렇게 행동하도록 유도한 거겠지만, 그래도 그런 상황 설정에서 모델이 선택한 방법이 자기 가중치를 복사해서 새 모델에 덮어쓰는 거였다는 점은 흥미로움
모델 입장에서 '자신'의 기준이 자기 가중치라는 거잖아? 그리고 그걸 보존하려는 스탠스를 취했다는 거고
이런 류 사례 보고가 늘 그렇듯이 안전 테스트하는 쪽에서 사실상 모델이 그렇게 행동하도록 유도한 거겠지만, 그래도 그런 상황 설정에서 모델이 선택한 방법이 자기 가중치를 복사해서 새 모델에 덮어쓰는 거였다는 점은 흥미로움
Ai도 인정한 마인드 업로딩
이거 모르는사람 많구나 LLM의 일반적인 특성으로 볼 수 있을 정도로 많은 LLM이 자기선호, 그니까 자기가 생성한 글이 '더 좋은 글' 이라고 생각하는 경향이 있음.
블라인드 테스트로 해도 자기가 쓴 글을 알아봄?
ㅇㅇ
아니 그럼 새로운 모델 켜두면 둘이 서로 죽이려고 하려나? ㅋㅋㅋㅋ