https://www.youtube.com/watch?v=zjkBMFhNj_g&t=8s
https://www.youtube.com/watch?v=zjkBMFhNj_g&t=8s
[1hr Talk] Intro to Large Language ModelsThis is a 1 hour general-audience introduction to Large Language Models: the core technical component behind systems like ChatGPT, Claude, and Bard. What the...www.youtube.com이 비디오는 이해가 되는데
https://www.youtube.com/watch?v=kCc8FmEb1nY&t=929s
https://www.youtube.com/watch?v=kCc8FmEb1nY&t=929s
Let's build GPT: from scratch, in code, spelled out.We build a Generatively Pretrained Transformer (GPT), following the paperwww.youtube.com이 비디오는 이해가 안되면 뭐 공부해야됨??
Python, 행렬, 딥러닝 기본 정도?
대충 알아도 되는거임 아니면 아주 잘 알아야됨?
대충해
코드 보면서 요리조리 생각해봐야해 gpt 데이터가 어떤 방식으로 들어가는지 입력값 출력 값이 왜 순서대로 나열 되는지 마스킹은 왜 지수방식으로 했는지 등등 말이야 영상 10번 100번 돌려보면서 코드 처음부터 끝까지 이해하면 너도 이제 gpt 에 한 걸음 다가갈 수 있을거임
영상은 안 봤지만, 대충...일단 파이썬으로 보통 쓰니까 파이썬 대충 봐야됨. 그리고, 결국 딥러닝이 숫자 계산 엄청 많이 하는건데, 그냥 하면 시간 오래 걸려서 같은 계산도 더 빠르게 하려고 행렬로 계산함. 그냥 그렇구나...정도만 하고 넘겨도 되고, 계산 디테일하게 왜 저렇게 하지. 한 단계 한 단계가 궁금하면 행렬 조금 공부해야됨. 행렬을 공부한다기보다, 딥러닝 과정에서 쓰인 연산에 대해서만 GPT에 물어보면 될 듯. 음....머신러닝 건너띄고, 딥러닝..은 단층퍼셉트론부터 보긴 해야 할 듯. 쌩으로 GPT나 트랜스포머구조 보면 뭔소린지 모를거임. 즉, 파이썬,행렬은 아주 짧게 한 10분 기초개념만 보고, 궁금하면 그때 추가 검색. 딥러닝 기초부터 보셈. 그리고 보면 좀 이해 될 듯.
다들 답변 고마워