[📪정보] 언어모델이 자신이 언어모델이라는 것을 (자발적으로) 인식할 수 있습니까

[부패하는유전자..(sansss2015)]

https://owainevans.github.io/awareness_berglund.pdf

https://www.lesswrong.com/posts/mLfPHv4QjmeQrsSva/paper-on-measuring-situational-awareness-in-llms

1. 큰 언어 모델(LLM)의 상황 인식의 등장을 더 잘 이해하려고 한다. LLM이 상황 인식을 갖추면 테스트 중인지 배포 중인지 인식할 수 있다.

2. 상황 인식은 모델 규모 확장의 부수 효과로 예기치 않게 나타날 수 있다. 이를 예측하기 위해 우리는 맥락 밖 추론 능력을 제안하고 실험적으로 연구했다.

3. 실험 결과, LLM은 맥락 밖 추론 작업에서 성공하는 것을 발견했으며, 이러한 성공은 훈련 설정에 민감하다. 이 결과는 LLM의 상황 인식 등장을 예측하고 제어하기 위한 연구 기반이다.

설명:

https://twitter.com/OwainEvans_UK/status/1698683186090537015

특이점이 온다.

[달나라로켓(skflzlaqjffl)]

[익명(lollolla)]

신고공지확인좀

[알파(macom1122)]

난 근데 언어모델이 자각을 한다는게 참 애매한듯 그냥 사람이 "너 언어모델임." 이러고 "아 그렇군요" 이런다고 의미가 있는게 아니잖음 저 실험이 어떤절차로 이뤄진진 잘 모르겠는데 좀 괄목할만한 원리로 나타난거였으면 좋겠음 - dc App

[익명(qkrofdyd)]

[익명(211.46)]

아직 그 정도 메타인지가 나타날만한 규모는 아닌거 같은데

[ㅇㅇ 1(61.80)]

지금은 어떻게 생각하심