사실 특붕이들도 대부분 기술의 수혜만 누리고 생산자 입장은 아닌 거 같아서


여기서 물어보는 게 맞는진 모르겠지만


그래도 몇몇은 가끔 전문가들인 거 같아서...


지금 컴공 1학년 수준으로 Python 및 C, C++, JAVA 등등 공부했고 앤드류 응 머신러닝 강의랑 밑바닥부터 시작하는 딥러닝 등 책 몇권 가볍게 1회독했음.


이제 그래서 대략 데이터를 받아서 모델에 통과시키고 그 로스함수를 역전파해 학습한다는 딥러닝의 기본적인 형태는 깨우친 상태고 이제 그걸로 언어모델을 실제로 어떻게 만드는가? 이게 궁금한데


Attention is All You Need 논문부터 시작해서 GPT-1,2,3, LLaMA, Mistral 등 최신 페이퍼들 쭉 보면 되는거임??


최종적으로는 모델 파인튜닝도 할 수 있는 게 목표임


글고 코드도 그냥 무작정 허깅페이스에서 트랜스포머부터 뜯어보면 됨??