https://n.news.naver.com/mnews/article/003/0013688533

中 AI 복사 의혹에 '업스테이지' 김성훈 대표정부 주도 '독자 인공지능(AI) 파운데이션 모델 프로젝트'에 참여한 업스테이지가 중국 AI모델을 복사해 미세 조정한 것 아니냐는 의혹에 휩싸였다. 업스테이지는 즉각 반박하며 공개 검증을 예고했다. 1일 고석현 사이n.news.naver.com


임성빈 고려대 통계학과 교수도 "두 초거대언어모델(LLM)의 레이어놈 파라미터의 코사인 유사도가 유사하다고 해서 '프롬 스크래치 학습이 아니다'라고 주장하는 것은 통계적으로 다소 무리가 있다"고 지적했다.

임 교수는 "레이어놈의 러닝 다이나믹스(learning dynamics) 때문"이라며 "레이어놈의 초기 설정(initialization)이 1로 초기화되는데, layer(층)가 깊어질수록 1 근처에서 작은 변화(perturbation)만 일어나기 때문에 코사인 유사도 수치만 보면 0.9 이상 나오기 쉽다. 그러므로 이 경우 '프롬 스크래치가 아니다'라고 결론을 내리는건 주의해야 한다"고 설명했다.

한편, 이번 의혹을 제기한 고석현 대표와 김성훈 대표는 네이버 클로바 팀에서 한솥밥을 먹었던 동료다. 김성훈 대표가 2020년 퇴사하기 전까지 네이버에서 AI 서비스 개발을 함께 했다. 이후 고 대표는 사이오닉AI, 김 대표는 업스테이지를 창업했다.