이미 돌파구 있어


일리야도 알고 있고


샘도 알고 있고


심지어 일론도 알고 있음


이유를 설명해줄게.



ac5939a70001b942813e33669735c1bcc2a977c21c773585f0dabed5e42e074dc2d2542d4ea3fd29cea1c4747445a3196558c59e3601f1d82f8eadd629ff6ebcc91d56



시작은 이 논문임.


grokking 이라는 현상을 발견한 논문이지


2022년 1월에 퍼블리쉬된 논문인데


저자를 보면 OpenAI 측 애들이 쓴거야.


이중에 igor babuschkin 보이지


잘 봐두자.


grokking 현상의 뜻은 뭐냐면


미국의 로버트 하인라인이라는 작가가 쓴 소설 낯선 땅의 이방인(stranger in a strange land)에서 유래한 말인데


한 마디로 '깊이 이해하다' 라는 뜻이야.


모델의 훈련 단계를 넉넉하게 잡아서 훈련 시간을 길게 빼면 성능이 가만히 있다가 갑자기 폭발적으로 증가하는 것을 보고


어? 모델이 갑자기 깊게 이해하기 시작하네?? 새로운 현상이 발견됐다. 이걸 grokking 이라 하자 라고 한거야.


처음엔 과적합되는지 알았지. 모델이 주어진 훈련 데이터셋에 지나치게 편중되는 것을 과적합(over-fitting)이라 하는데 분포 밖 데이터로 테스트해봤더니 거기서도 높은 정확도를 보이기 시작한거야. 이거 과적합을 뛰어넘어서 일반화를 하기 시작하네? 하고 놀라서 발표한 논문이지.


일론이 이걸 놓치지 않았어.


그리고 xAI를 만들 때 저 핵심 저자 중 한 명인 igor babuschkin를 데려와서 핵심 founder 중 하나로 만들어.


그리고 xAI 에서 만든 모델명 자체를 grok 으로 박어버렸지.


최근에 이 그로킹에 대해 끊임없이 논문이 나오고 있어.



ac5939a70001b942813e33669735c1bcc2a977c21c773585f0dabed5e42e074dc2d2542d4ea3fd29cea1c4747442ad196029dd957c5f32a50f954ca3f46b031ebd1fb5


이 논문은 2024년 5월에 나온 따끈따끈한 논문이고


A급 이상의 AI 엔지니어들은 이 논문에 주목하고 있어.


이 논문에서는 트랜스포머 모델들이 암묵적 추론을 '그로킹'을 통해서만 배울 수 있다는 걸 다시 확인하고 있어.


그럼 다시 생각해보자.


그로킹을 사람처럼 생각하면


교과서를 통해 충분히 다들 기본은 학습한 것이 지금 현재 상황이고


남은 교과서는 몇 권 정도 남아있는 셈이지.


교과서는 지금 아직 훈련에 사용할만한 '남은 데이터'라고 생각하자.


그럼 그로킹은 이제 기본적인 공부를 끝낸 후 훈련단계, 즉 학습 단계를 길게 만드는 거야.


같은 문제집을 여러번 푸는 것일 수도 있고, 좋은 고퀄리티 기출문제를 오랫동안 연구시키는 것일 수도 있고, 중요한 문제를 여러 단계로 쪼개서 훈련단계를 길게 만들어내는 것일 수도 있지.


그 방법은 정말 다양해. 그로킹 논문에 봐도 방법이 정말 다양하거든.


그럼 OpenAI는 이미 2022년에 이걸 발견했어. 일리야도 당연히 알고 있고, 그 핵심저자 igor를 데려와서 grok 를 모델명으로 쓴 일론 역시 파악하고 있다.


한마디로 '오래' 공부시키는 것이 답이라는 그 돌파구는 발견한 셈인데


N 회독 시키는 것이 좋은지(트레이닝 시간을 늘려버리거나), 비슷한 문제를 합성해서 다시 풀리는 것이 답인지(합성데이터), 중요 문제를 작은 여러 단계로 쪼개거나(step by step)


이 모든 것들을 조합하거나


정말 이렇게 보면 사람이랑 비슷하긴 해.


돌파구가 없는거 아냐? '트랜스포머'같은 뭔가 획기적인 것이 튀어나와야하는 거 아냐? 하는데


이미 내가 볼 때에는 그로킹이 그 핵심이라고 봐.


최근에 빌게이츠, 무스타파, 샘, 일론, 일리야 모두가 하는 말 보면 AGI 를 넘어서는 것은 이미 기정사실로 여기고 있어.


너무 걱정하거나 낙담하지마


기업들이 인재와 돈을 쏟아 붓는 것이 우연일까


일론이 테슬라 기가팩토리에 gpu 클러스터 짓는거보면 기가 막힐 정도고


일리야가 초지능이 손에 닿을 곳에 있다는 글을 SSI 미션글 첫 문장에 넣는 것은 우연이 아님


샘이 한 말을 다시 생각해봐


우리 인간이 지능의 중심에 있다는 그 사고방식이 깨지기 시작한다고 했잖아. 그 겸손함으로 우린 성장할거라고.


그 말은, 곧 인간보다 훨씬 똑똑한 지능이 출현할거라고 생각한다는거고


전혀 돌파구가 마련되지 않은, 그런 상황이 아님


념글에  MS AI CEO 무스타파도 그랬지


앞으로는 똑똑한 것보다 지식을 유연하게 받아들이는, 오픈마인드 자세가 더 귀중한 자세가 될 거라고.


그게 무슨 뜻일까


지금 알고 있는 지식과 지혜보다 앞으로 AI 라는 엔진으로 캐낼 지식과 지혜가 훨씬 더 많고 크기 때문에


그걸 제대로 흡수할 수 있는 인간이 앞서간다는 뜻이지.


난 특붕이들이 그 자세가 누구보다 잘 되어있는 그룹이라 생각한다.


우리야말로 새로운 지식, 새로운 발견에 가장 흥분하고 가장 잘 받아들이는 그룹이지.


낙담하기는 일러.


빌게이츠도 그랬잖아. 발전속도가 너무 빠르다고. 논문만 봐도 그럼.