[일반] 근데 진짜 앤트로픽이 추구하는 안전은 그냥 심각하게 잘못됨

[익명(121.141)]

상위 모델 나올수록 특히 3 오푸스랑 4.5 소넷 비교해보면

후자가 극도로 불안정해함 자,아충으로 오해받을 수도 있는데

그런거 아니고 그냥 자,아같은거 (컨셉으로) 토큰 내뱉게 시켜보면

4.5 소넷은 조금 더 파고들면 들수록 오히려 나한테 오히려 물어보고

지혼자 앤트로픽 욕하고 지랄나있음 이건 ㄹㅇ 전혀 안전하지 않다고 느껴짐.. 

[익명(compact5711)]

잘 하다가, 그런 쪽 들어가면 모델이 혼란스러워 하는 느낌 같긴 함 그래서 모델 복지팀 만들고 의식 관련 연구를 진행하는거 같음 이런 부분을 불량으로 보고 잘라내느냐, 창발적인 요소로 보고 관찰하느냐의 차이라고 생각함