[📪정보] 인공지능의 놀라운 견고성: 대형 언어 모델의 새로운 발견

https://arxiv.org/pdf/2406.19384

---

#### **대형 언어 모델의 견고성**

최근 MIT의 연구팀이 발표한 논문에 따르면, 대형 언어 모델(LLMs, Large Language Models)은 모델의 층(layer)을 삭제하거나 순서를 바꾸더라도 예측 정확도를 72-95% 유지할 수 있는 놀라운 견고성을 보였다. 이를 통해 연구진은 대형 언어 모델이 'detokenization', 'feature engineering', 'prediction ensembling', 'residual sharpening'이라는 네 가지 단계로 구성된 보편적인 추론 과정을 거친다는 가설을 세웠다.

---

#### **네 가지 추론 단계**

1. **Detokenization**: 모델의 첫 번째 단계로, 로컬 정보를 통합하여 원시 토큰 표현을 더 높은 수준의 컨텍스트 표현으로 변환한다. 이는 인접한 층을 삭제하거나 순서를 바꾸었을 때 예측 정확도가 크게 떨어지는 것으로 확인되었다.

2. **Feature Engineering**: 두 번째 단계로, 모델이 반복적으로 특정 작업이나 엔티티에 특화된 특징을 추출한다. 이 단계에서는 토큰 예측 정확도가 크게 향상되지는 않지만, 모델이 추출한 특징들이 유의미하게 개선된다.

3. **Prediction Ensembling**: 세 번째 단계로, 모델의 중반부부터는 숨겨진 표현이 단어장(vocabulary) 공간과 더 잘 맞아떨어지게 된다. 이 단계에서 모델은 여러 구성 요소를 통해 다음 토큰을 예측한다.

4. **Residual Sharpening**: 마지막 단계로, 모델의 마지막 층에서 불필요한 특징들을 제거하여 다음 토큰 분포를 더욱 선명하게 만든다.

---

#### **연구 방법과 결과**

연구팀은 Pythia, GPT-2, Microsoft Phi 모델을 대상으로 층 삭제와 인접 층 교환 실험을 수행했다. 이 실험을 통해 층별로 다른 역할을 수행하는 것을 확인했다. 예를 들어, 첫 번째 층을 삭제하면 모델의 성능이 크게 저하되었으며, 마지막 층을 교환했을 때도 마찬가지로 성능 저하가 나타났다. 그러나 중간 층에서는 삭제나 교환에 대한 저항성이 높았다.

특히, GPT-2 모델은 dropout[1] 기법을 통해 훈련되어 중복성이 증가한 것으로 나타났다. 이는 Pythia 모델에 비해 더 높은 견고성을 보이는 이유로 분석되었다.

---

#### **추가 연구의 필요성**

이번 연구는 대형 언어 모델의 추론 과정을 이해하는 데 중요한 단초를 제공했지만, 모델 간의 차이를 완전히 규명하지는 못했다. 예를 들어, GPT-2 모델과 Pythia 모델 간의 차이가 dropout 기법 때문인지, 구조적 차이 때문인지, 층의 수 때문인지 명확히 구분하기 어렵다. 또한, 특정 토큰 클래스에 대한 효과가 평균화되는 문제도 남아있다. 따라서 추가 연구를 통해 이러한 한계들을 극복하고 대형 언어 모델의 작동 원리를 더욱 명확히 규명할 필요가 있다.

---

### **결론**

MIT 연구팀의 이번 논문은 대형 언어 모델의 놀라운 견고성과 추론 과정의 단계를 새롭게 밝혀냈다. 이 연구는 인공지능 모델의 효율성과 신뢰성을 높이는 데 중요한 기여를 할 것으로 기대된다. 앞으로의 연구를 통해 이러한 발견들이 실제 적용될 수 있기를 기대한다.

---

[1] dropout: 신경망 학습 시 일부 뉴런을 임의로 생략하여 과적합을 방지하는 기법.

[📪정보] 인공지능의 놀라운 견고성: 대형 언어 모델의 새로운 발견

댓글 3

다른 게시글