세상에 GPT2가 등장했을 때 놀랍게도 그 누구도 관심이 없었다

단어를 조합해낼 수 있으나 완성된 문장은 조악하기 때문이었다

애미야 나 밥줘 응애와 같은 문장을 뽑아내는 저능아 모델에 누가 관심을 가졌을까

학계는 관심을 가졌다

지금에야 클로드3, GPT4와 같은 SOTA 모델들의 우월한 성능에 인지부조화가 와서 실감이 나지 않겠지만

지금이야 버러지 중 버러지 모델의 제일 뒤를 차지하고 있을 GPT2는
그 당시로는 정말 놀랄만한 수준이었다

언어 모델이 인풋을 보고 단어를 조합한 다음 대충 문맥에 맞는 문장을 만들어 낸다니 이게 말이 되나?

시리와 같은 사이비찌끄레기 수준이 아니었다

뒤를 이어 나온 GPT3는 다시 한 번 언어모델들의 대가리를 깨부쉈다

그럼에도 관심이 없었다

기사는 몇 번 나왔다

GPT3 너무 놀랍다! 개쩌는 언어모델의 현주소!

근데 그 기사에 어떻게 반응했을 거 같나?

궁금하다면 돌슬람 글 하나만 싸봐라 딱 느껴질 거다

그리고 ChatGPT가 나왔다

그 후는 다 잘 아니까 생략하고


세상을 LLM으로 물들여버릴 원천 기술은 이미 GPT2에서 완성되어 있었다

다만 우리가 관심이 없었던 것 뿐이다

오늘이 바로 AGI의 핵심이 될 키가 탄생된 날 일수도 있지 않은가?

우리가 비록 아무런 관심이 없었을 지라도 말이다

그냥 즐겨라

특이점이 왔다.