현재 통계학과 3학년 마치고 휴학중입니다.
딥러닝 쪽으로 커리어를 쌓아 가고 싶어서, 학부에서 ml/dl 강의를 수강하였고, 스탠포드 cs231n 강의와 과제를 끝마쳤습니다. 프레임워크 학습을 하고자 pytorch tutorial 도 학습하였습니다.
Batch normalization, resnet 등의 기본적인 논문들을 읽었고, cs231n 과제를 통해 cnn, rnn, transformer 등의 기초적인 구조는 알고 있다고 생각합니다.
이후 transformer 기법에 관심이 생겨서, kaggle 에서 competetion 상위 코드를 읽고 학습하려고 하였으나, 제 실력으론 이해하기 너무 어려웠습니다(shifted window transformer 기법을 사용한 코드였습니다.) 해당 논문은 읽고 이해하였지만, 코드에서 논문 그대로를 구현하는 것이 아니라서 이 코드가 왜 필요한지, 또 다른 어떤 기법이 들어가 있는 것인지 이해하기가 너무 어려웠습니다.
제가 현업에서 사용하는 코드들을 이해하고 저도 그러한 코드를 쓸 수 있으려면, 어떤 공부를 하는 것이 좋을까요?? transformer 관련 쉬운 코드들부터 학습하는 것이 좋을까요? 아니면 논문 구현을 해봐야 할까요? 제 학습에 다음 스텝을 어떻게 해야 할지 너무 고민이 됩니다 ㅠㅠ
딥러닝 쪽으로 커리어를 쌓아 가고 싶어서, 학부에서 ml/dl 강의를 수강하였고, 스탠포드 cs231n 강의와 과제를 끝마쳤습니다. 프레임워크 학습을 하고자 pytorch tutorial 도 학습하였습니다.
Batch normalization, resnet 등의 기본적인 논문들을 읽었고, cs231n 과제를 통해 cnn, rnn, transformer 등의 기초적인 구조는 알고 있다고 생각합니다.
이후 transformer 기법에 관심이 생겨서, kaggle 에서 competetion 상위 코드를 읽고 학습하려고 하였으나, 제 실력으론 이해하기 너무 어려웠습니다(shifted window transformer 기법을 사용한 코드였습니다.) 해당 논문은 읽고 이해하였지만, 코드에서 논문 그대로를 구현하는 것이 아니라서 이 코드가 왜 필요한지, 또 다른 어떤 기법이 들어가 있는 것인지 이해하기가 너무 어려웠습니다.
제가 현업에서 사용하는 코드들을 이해하고 저도 그러한 코드를 쓸 수 있으려면, 어떤 공부를 하는 것이 좋을까요?? transformer 관련 쉬운 코드들부터 학습하는 것이 좋을까요? 아니면 논문 구현을 해봐야 할까요? 제 학습에 다음 스텝을 어떻게 해야 할지 너무 고민이 됩니다 ㅠㅠ
나중에 뭐하고 싶은데?
실력이 된다면 모델, 알고리즘 연구해서 논문을 써 보고 싶은데, 현재는 ml 엔지니어를 목표로 하고 있습니다.
일단 뭘하고 싶은지 찾는게 우선이라보는데.... 머신러닝하고싶다는건 걍 두루뭉실하게 물리학하고싶어요~ 하는거랑 다를게 없음
지금은 kaggle competetion 이나 공모전 참여를 해보고 싶습니다!
통계공부
넵 수학적 지식도 쌓아놔야겠네요
왜 썼는지는 결과에 끼워맞추기
ㄹㅇㅋㅋ - dc App
방향은 오히려 으용하고 싶은 방향을 먼저 정하는게 더 나을듯. cahtgpt 로봇 의학 그래픽 자율주행 등등. 안ㅣ면 아예 완전히 새로운 분야던지..