특정 기능이 필요한 것들(수학, 코딩 등)끼리 유사한 벡터(토큰의)를 가지고 있다 - 사실 이건 당연한데
규모가 큰 모델에서 "speatial modularity"나 "geometric co-located" 라는 걸 보면 클러스터링이 예상보다 잘 구조화되어 있기에 뇌의 기능적 '엽' 처럼 작동한다고 표현한 듯.
단순하게 유사한 것 끼리 뭉쳐있는 "atomic" 수준이랑 작업 특화(?) 영역의 "lobe" 수준, 전체적인 경향의 "galaxy" 수준이라고 표현함.
이게 왜 뇌랑 같은건지는 모르갰음 그냥 이미지를 잘 뽑아놓은 것 같은데
추상적인걸까 내가 부족한 걸까..
개소리좃문가
한국어로 말해!
1. 예상보다 모델의 구조화 잘 되어 있음 -ㅇㅈ 2. 뇌와 유사할 정도 라고 표현함 3. 개인적으로 저 정도 표현이 적절한지는 모르겠음 뇌가 그 정도로 밝혀져 있다고 생각을 안하는데
고마워