딥러닝은 pytorch 같은 라이브러리(프레임워크?)로 간단히 짤수도 있지만
그냥 파이썬 기본 수치 라이브러리 numpy 로 작성할수도 있는데
이렇게 numpy로 직접 작성해보니까 딥러닝에 대한 이해도가 높아졌었음.
난 재능이 떨어져서 내가 직접 코드 작성안해보면 책만 읽어서는 두리뭉실하게 막연하게만 이해하고 이해도는 50%도 안되는듯하고, 내가 직접 코드 작성해야 90% 이상 이해가 되는듯.
LLM을 이해하고 여기서 영감을 받으려고 LLM 공부하려는데
numpy 같은 기본 라이브러리로 LLM 구현한 코드 있을까?
또는 이런 책(교재)가 있을까?
유튜브에 gpt from scratch 영상 차고 넘치니까 그걸로 구조 배우고, 거기 쓰인 함수 하나하나 넘파이로 구현하는건 직접 해봐 - dc App
파이토치도 안에 뜯어보면 다 기본 토치연산으로 구현한건데 그냥 플젝 아무거나 들어가서 거기서 쓰는 파이토치 함수들 다 뜯어보던가
이 질문글 쓰고, ai챗봇에게 물어보니 ai챗봇 답변이 월등히 낫네 ㅋㅋ 위 2개 답변 보다 훨 나음 ㅋㅋ
ㅋㅋㅋ 알려줘도 gpt 붙잡으면 뭐 우째...
@ㅇㅇ(122.47) 있는 그대로 얘기했을뿐. ai챗봇에게 물어봐
바닐라 트랜스포머나 다시 구현하셈. 근데 LLM 구조 자체는 별거 없어 원래. 그냥 단순 레이어 반복임.
밑시딥 6권 LLM 다루는데 조만간 출판예정 - dc App