[일반] 앤트로픽 해석 연구 나옴 (자기성찰)

[익명(compact5711)]

https://www.anthropic.com/research/introspection

Emergent introspective awareness in large language models

설명하기에 내 설명능력이 후달려서 설명은 못 하겠음

뭔가 뭔가인 연구임

[레알팜(lottohelp)]

[익명(compact5711)]

[익명(photo9313)]

[익명(compact5711)]

[ㅇㅇ 1(207.81)]

번역해서 내놔 ㅣ발아 고마워

[익명(compact5711)]

[초존도초(htr3c654r6ft)]

지리네 - 2025 AGI

[익명(compact5711)]

역시 해석 연구는 대트로픽

[ㅇㅇ 2(223.194)]

1. 프롬프트/벡터변환을 통한 개념 주입을 비교분석 실험을 진행하면서 모델이 자기성찰을 하는지에 대해서는 확답할수는 없다는 결론이 나왔다. 2. 실험 도중에 오푸스4.1 모델이 자신들이 구상/진행한 개념주입 방식을 통해 진행한 실험에서 제일 성능이 좋았다. 3. 모델에 자기성찰에 대한 더 나은 평가 방식이 필요할것으로 보인다

[익명(compact5711)]

모델 성능이 증가할수록 탐지율이 올라가긴 하니까, 더 좋은 방법을 만들어서 더 지켜봐야할 듯