[📪정보] 경쟁사들이 o1을 추격할 수 있었던 이유..."o1 생성 데이터로 학습"

7ceb857fbd8007f736ef84ed4fee7769fb472d8255d3b7c025c2b704c66eaca03527

오픈AI가 추론 인공지능(AI) 모델 ‘o1’을 출시한 지 두달 만에 경쟁사들이 빠르게 따라잡을 수 있었던 이유가 드러났다.

디 인포메이션은 5일(현지시간) 오픈AI 연구원들과 대화한 소식통의 말을 인용, 일부 경쟁사 AI 개발자들이 o1 모델을 활용해 학습 데이터를 생성하고 이를 기반으로 자신들의 추론 모델을 훈련했다고 있다고 보도했다.

오픈AI 연구원들의 말을 전해 들은 소식통에 따르면, 경쟁사들은 o1 모델에 다양한 문제를 풀도록 요청한 뒤 그 과정에서 나타난 '사고 사슬(CoT)'을 학습 데이터로 활용한다는 것이다.

즉, o1에서 얻은 결과물을 오픈 소스 대형언어모델(LLM)에 학습하는 식으로, 모델의 복잡한 다단계 문제 해결 능력이나 추론 성능을 향상한다는 내용이다.

오픈AI는 이런 문제를 방지하기 위해 CoT 과정을 숨기도록 조치했다. 또 챗GPT와 대화 중 CoT를 요청하면 계정을 차단하는 등 강수를 뒀다.

하지만 사용자가 답변 과정과 논리를 이해할 수 있도록 요약된 형태의 CoT는 제공하고 있다. 경쟁사들은 이 요약된 CoT를 다른 LLM에 입력해 원본 CoT를 재구성하도록 하고, 이를 데이터로 활용하는 것으로 전해졌다.

다른 회사들이 오픈AI의 앞선 모델을 활용해 합성 데이터를 생성하고 모델 학습에 사용한다는 사실은 널리 알려져 있다. 오픈AI도 이를 알고 있으며 서비스 약관으로 금지했지만, 이를 추적하거나 규제하는 것은 어려운 실정이다.

오픈AI는 이날에도 o1 풀 버전과 프로 버전을 출시했다. 또 앞으로도 추론 모델 출시가 계속 될 예정이다.

디 인포메이션은 오픈AI가 지속적으로 경쟁 우위를 확보하기 위해 대비책을 모색해야 한다고 지적했다.

댓글 3