24b0d121e09c28a8699fe8b115ef0468e3adefbc67


일단 르쿤이 일생동안 거쳐본 모델들을 살펴보자




퍼셉트론 <- 제어전극 딸깍딸깍하는 시대를 종결냄 


MLP <- 페름기 대멸종급 빙하기를 종결낸 "딥"러닝


RNN <- 생각해서 답변한다는 게 진짜 가능하다는 걸 보여줌 


CNN <- 손글씨만 분류하던 신경망들 싹다 취직시킴


GAN <- 이 녀석 나오기 전까진 CS에서 창의성 언급하면 진지하게 무당 취급받았음


트랜스포머 <- 알잖아?




참고로 저 중에서 퍼셉트론은 발표되고 3년 뒤에 르쿤이 태어났고


MLP는 얀 르쿤이 대학원생 시절 때 발표됐음. 


트랜스포머는 8년 전이고.


이 점을 고려하고 르쿤의 입장에서 생각하는 게 필요함ㅋㅋ


우리야 고작 GPT-5 6개월 지연으로 여름이네 겨울이네, 알트만을 저잣거리에 효수하네마네 이러지


르쿤옹은 그 지랄을 45년동안 반복했음ㅋㅋ



덕분에 르쿤에게 퀀텀점프는 우리와 단위 자체가 많이 다르다고 봐야 함.


적어도 르쿤이 여태까지 겪어왔던 딥러닝에서의 퀀텀점프들은 하나같이 방법 차원의 혁신이 뒷받침됐기 때문에 가능했던 것들임


그 사이사이의 여러 이름모를 자질구래한 모델들은 그냥 거기서 살짝살짝 뭔가를 뿌리고 장식한 것들이었고


실제로 진짜 성능만 살짝 오르는 벤치딸로 끝나는 게 대부분이었음



그런 르쿤에게 근래 서서히 올라가는 LLM의 넘버링이나 소수점, 추론 모델의 사이즈가 어떻게 인식될지는 뻔하지


결국 르쿤에겐 잼마-3이든 o4mh든, 사실상 GPT-2에 멈춰 있는 거임ㅋㅋ