[일반] generative model이랑 foundation model이

[익명(118.235)]

원래 구별이 명확히 되는 개념은 아니지??

예를 들어 gpt는 기능 자체는 전자에 가까운데 후자기도 하고

sora 같은 것도 나는 generative model이라고 생각했는데 foundation model이라고 사람들이 말하던데

그냥 중복될 수 있는 개념임?

[익명(175.192)]

학습 방법이 generative vs. discriminative 로 나눠지는거고, 파운데이션 모델은 그냥 비지도 학습으로 학습된 pretrained model 말하는거아님? 아예 다른 개념같은데

[익명(175.192)]

CLIP은 생성형 모델이 아니지만 파운데이션 모델아님?

[익명(118.103)]

첫댓이 말한 학습 방법은 GAN 말하는 거 같음

[익명(118.235)]

gan은 전혀 다른 거 아님? 그건 제네레이터랑 구별하는놈이 서로 싸우면서 제네레이터가 결국 진짜같은 이미지를 더 잘 만들게 된다 이런거였던걸로 아는데

[익명(175.192)]

GAN에서의 generator, discriminator 말한 거 아님 ㅇㅇ.

[익명(118.103)]

생성형 모델 = 뭔가 생성해낼수 있는 모델 파운데이션 모델 = 특정 Task에 맞게 더 응용해서 써먹을 수 있는 일반적인, 베이스 수준의 모델 아닌감

[익명(222.100)]

Generative 모델 : 생성형 AI임. 인식/예측하는 모델과 대비되는 목적을 가진 모델을 칭하며, 컨텐츠를 생산하는 모델 Foundation 모델 : 배아줄기세포 같은거임. 그 자체로는 서비스 품질이 안나오지만 추가적인 학습을 통해서 빠르고 쉽고 더 좋은 모델로 변이 가능함

[익명(118.235)]

그럼 gpt같은거는 둘 다 해당된다고 하는데, 추가적인 fine tuning이나 supervised learning 없이도 잘 작동하는 이유가 뭐임?? 그냥 그 배아줄기도 있고 다큰 사람도 있고 한거임??

[익명(175.192)]

다운스트림 태스크에 파인튜닝을 하면 원래 잘 작동했던게 훨씬 잘 작동하게 된다고 이해하는게 나을듯.

[익명(121.173)]

GPT 파운데이션도 그 자체론 응애모델인데 RLHF랑 FINETUNING 등으로 완성된거임. 그냥 파운데이션 모델은 상품용으로 못씀

[익명(218.237)]

generative 는 그냥 알고리즘 종류고 foundation은 그냥 pretrained된 모델을 그럴싸하게 부르는거임

[펜니르(lonewolf)]

제너레이티브는 그게 생성형 모델이라는거고 파운데이션은 말 그대로 파운데이션인거 이해가 안되면 허깅에서 배이스 언어모델 페이지 아무거나 들가서 텍스트 쳐봐