쏟아져 나올 거임.
이제 우후죽순으로 별별 논문들 다 쏟아져 나올 거임
2월부터 시작해서 6개월간 참여 인원들 모두 논문 한 편 이상씩 내도록 하는 건데
- 확장 가능한 감독(Scalable Oversight): 고성능 모델이 다양한 영역에서 인간 수준의 지능을 초월하는 경우에도, 유용하고 정직함을 유지하도록 감독하는 확장 가능한 기법 개발.
- 적대적 강건성 및 AI 통제(Adversarial Robustness and AI Control): 첨단 AI 시스템이 익숙하지 않거나 적대적인 상황에서도 안전하고 무해하게 유지되도록 보장하는 방법 개발.
- 모델 유기체(Model Organisms): 정렬 실패가 어떻게 발생할 수 있는지에 대한 실증적 이해를 높이기 위해, 정렬 실패 연구용 모델 유기체 생성.
- 모델 내부 및 해석 가능성(Model Internals and Interpretability): 더욱 정밀한 개입과 안전 조치를 가능하게 하기 위해, 거대 언어 모델의 내부 작동 방식에 대한 이해 증진.
- AI 복지(AI Welfare): 잠재적인 AI 복지에 대한 이해를 높이고, 관련 평가 및 완화책 개발.
이게 단순히 안전 정렬에만 집중된 것처럼 보일 뿐인 거지,
사실상 그냥 모델에 대한 내부적인 모든 것을 다 분해해서 뼛속까지 이해하는 과정을 단기에 미친 듯이 뽑아내고자 하는 집념이라 할 수 있어서
놀라운!
마법같은!
안전 정렬에만 집중된 것처럼 보이는 게 아니고 실제로 집중된 거 같은데
안전 정렬에'만' 집중된 게 아니라 모델 분석에'도' 집중됐다는 말임 애초에 그게 밑바탕이 안 되어 있으면 걍 다 철학적인 개소리에 불과하기도 하고
분석에 집중하건 개소리건 아니건 그게 안전 정렬 외의 유용한 곳에 쓰일 수 있다는 보장이 있음?
뭐 이런 병신떼쟁이련이 다있냐 애새끼 보는 더 같네
할 말이 없으면 욕을 한다의 완벽한 예시노
아니 애초에 안전 정렬이 가능하려면 모델에 대한 모든 걸 알아야 예상 외의 사태를 방지할 수 있는 거지..
과학과 기술의 연구는 정확한 타겟을 두고 하는것도 있지만 한 연구에서 부차적으로 알게되는 지식도 매우 많다. 안전 정렬 연구를 하려면 ai 모델 분석이 이루어져야하고 이 과정에서 ai 모델에 대한 이해도가 매우 높아진다.