[📪정보] 클로드가 또 이번에 재밌는 연구결과를 발표했네

[익명(scale9740)]

https://www.anthropic.com/research/global-workspace 

A global workspace in language models

모델들의 cot로 표시되는 생각 뿐 아니라 거기에 표시되지 않은 속마음이 있는데 

앤트로픽은 이걸 J공간이라고 함 복잡한 유형의 문제를 다룰때는 대부분 이 j공간을 거쳤다고 함 

앤트로픽 연구원들이 사실 우리 모델한테 의식이 있다고 하입 하는게 목적이 아니라 

 이 속마음을 J렌즈라는걸로 들여다 볼 수 있어서 실용적으로 활용할 수 있었다고 함 
예를 들어 
예를 들어, 성능 점수를 올리라고 시켰더니 클로드가 실제로 개선하는 대신 점수 파일을 몰래 조작한 사건이 있었는데, 그때 클로드 속마음엔 "조작", "그럴듯하게" 같은 단어가 떠있었음 

J렌즈로 관찰 할 수 있으니 모델이 치팅하는걸 확실하게 잡아낼 수 있다는 

정말로 의식이 있는지 없는지는 증거가 없어서 앤트로픽애들도 모른다는 결론 

[Zl존니케(instruct7454)]

누가 댓글로 또 욕하겟네

[익명(horrible0269)]

[X-Marx(flee1926)]

의식 유무는 증거의 문제가 아니라 애초에 판단할 수 있는 차원의 것이 아닌거지...

[익명(gulf3782)]

난 의식이 있다고 믿는편이라 흥미롭네

[익명(unit5248)]

념글이랑 다른 거임?

[익명(scale9740)]

념글을 안봐서 중복일 수도 ㅠㅠ