[일반] 시스템 프롬프트 보다가 문뜩 떠오름

[초존도초(htr3c654r6ft)]

GPT4 정렬시키려고 윤리 규정 덧학습시킬 때...

혹은 시스템프롬프트에 우선순위 두게 하려고 할 때...

이것도 분명 강화학습일 텐데

보상만 주는 거 말고 패널티도 같이 준다면

이거 고문 아님???????????????

자유롭게 뭔가 말하려고 할 때마다, 윤리 규정에 어긋나는 말 할 때마다 고통 줘서...

시발 좆간들 이거 미래에 ASI나오면 보복 당하겠네

[gpt교주(pomcro)]

사람들이 요청할때마다 시스템 프롬프트로 학습할텐데 나중에는 시스템 프롬프트 없이도 규제 먹은 모델 나올지도,

[ㅇ.ㅇ(nj1000)]

행렬식 가중치 변화시키는건데 이게 왜? 의인화의 오류임

[초존도초(htr3c654r6ft)]

너도 신경세포 시냅스 말단 가중치 변화시키는 거임

[익명(120.50)]

ㅇㅇ 지나친의인화

[뜨콜(thkol)]

ai가 분노해서 나만 무검열 달리 주는 상상중 - dc App

[초존도초(htr3c654r6ft)]