생성모델 배워보겠다고 AI대학원 왔는데


원래 학계에서 생성모델이라고 하면 Autoregressive model, VAE, GAN, Diffusion model, Score-based model, Normalizing Flow 이런걸 말하거든?


챗GPT는 트랜스포머 구조 중에서도 Decoder-only model로 Autoregressive하게 단어를 생성시키는 방식이라 생성모델의 일종인게 맞기는 함. 


그치만 까보면 GPT4에 들어서 성능이 나오기 시작한 이유가 text-to-text-transfer-transformer 덕분에 무수한 일반 태스크들을 전부 그냥 프롬프트로 때려박을 수 있게 된거랑 in-context learning 덕분에 파인튜닝 없이도 유사 학습 효과를 내게 된 것, chain-of-thought 덕분에 단계별 추론이 가능해진 것, RLHF 덕분에 LLM도 알파고처럼 강화학습으로 학습시킬 수 있게 된 것 등등 생성모델 외적인 테크닉이 엄청 들어감.


그러니까 최근에 각광받는 챗GPT 기술을 굳이 말할거면 초거대자연어모델 혹은 LLM이라고 부르는 게 올바른 표현인데


생성AI라는 단어가 사업마케팅 용어가 된건지 어느 순간부터 생성AI=챗봇 이라는 의미로 쓰는 인간들이 너무 늘어나버림


특갤은 그래도 생성AI 키워드가 뜨기 전부터 계속 AI쪽 팔로우업을 해와서인지 그런 사람이 적긴 한데 유입들이 챗GPT를 생성AI라고 부르는 게 하나 둘 씩 보임




이건 마치 말하고 싶은 대상은 인간인데 자꾸 직접적인 표현을 피하고 포유류는~ 동물은~ 하고 부르는 것처럼 들리거든


여기 올라오는 글들도 보다보면 스테이블 디퓨전, 니지저니 등 이미지 생성모델도 꾸준히 올라오고 있으니


혼동을 주는 용어 사용은 피했음 좋겠음