아래 백엔드 입문해서 서성한 석박통합 입학 포기서 제출한 병신임


일단 주의사항


- 자연어처리(절.대.하.지.마)+ 디퓨전 : 한국형 GPT 만드네 마네 하다가 카카오 네이버 사업 GG치고 해외 스타트업 싹 망함. 빅테크 원툴에 이 분야 진짜 재앙임. 순수 자연어 연구실도 Adaptation 쪽이나 이미 만들어진 모델 해석하는 쪽으로 길 돌림

- 순수 AI (절.대.하.지.마) : 공고만 봐도 ~~ 시스템에 AI적용 가능한 사람 << 이런게 99%임 응용 AI 해야함

- 예외) 해외 빅테크 인턴을 하고있다. top10 컨퍼런스 1저자 논문이 있다. 심지어 학부생이다. 이러면 오케이 옆 연구실에 3학년 때 메타로 인턴간 사람은 자연어 하더라


AI 관련해서 배우고 싶은 사람은

1. 일단 분야를 고르셈

- 전기/전자/통신/기계 (통신 AI는 연합학습 1년인가 떴다가 망함) : 이중에서 하나 골라야함. 공대 전공이면 그 전공 따라가셈


2. 아래 순서로 공부하셈

a. 정보이론

b. 기초 선형대수학(대학교 1학년 수준)+수치해석(알면 편함) + 베이지안 최적화(학습이 걍 이거 기반임) + 기초 강화학습(q러닝 살사 등등 << 이거 코딩 아님 걍 수학임)

c. 코딩을 잘 한다는 가정 하에 CNN(이미지넷 다음에 바로 RESNET으로) << CBAM이니 MAMBA니 RNN이니 LSTM이니 GRU니 걍 안씀 하지마

d. VIT + Attention is all you need, 이때 Attention 어려우면 딴길 찾으셈. 투자비용 아깝다고 여기서 매몰되면 진짜 ㅈ박음 + Low rank adaptation


**************Low rank adaptation************** 이건 꼭 알아야함. weight shift가 intrinsic한 low rank의 sub-space에 표현된다 이거 설명도 할 줄 알야함. 약간 어디 면접을 가나 레벨 테스트로 물어보는데 이거 대답 하냐 못하냐로 갈림. 그러면 꼬리질문으로 noisy top-k sampling이 무조건 들어오겠지? 이것도 공부


e. gpt2, chain of thought << 자연어 교양필수

f. Simclr, dino, biol << unsupervised 3총사

g. Contrastive Language Image pretrain << 2020년에 나와서 아직까지 모든 분야에서 응용되는 씹 GOAT


3. 여기까지 했으면 이게 기초반 졸업. 2024~2025년도 논문 정도는 읽을 수 있는 상태. 이후에 1번에서 고른 본인 연구분야+AI 키워드 합쳐서 논문 5개 읽어보고 구글에 awesome ~~ 이전에 선택한 ~~ paper list 검색해서 선행 연구 읽으셈 이때 분야 by 분야인데 cite 높은거 위주로 skip


4. 이상태로 대학원 ㄱ 이러면 KYSSH 면접까지는 부심


5. 석사만 하고싶다? AI 포기하거나 연구실의 역적이 되면 됨. ㅇㅇ KYSSH부터는 석박통합만 뽑음 자대생도 석사만 한다하면 안받음 그래서 석박통합으로 구라치고 들어가서 1년 하고 석사로 과정 바꾸셈. 그럼 욕 존나 하면서 바꿔주는 교수도 있고 아닌 교수도 있음. 안 바꿔준다? 음 잘가라. 자퇴 하던가 박사 하던가 이 방법밖에 없다.


아니면 서성한 이하로 신생랩 찾던가 인원수 적은 괴수 랩 찾으면 되긴 한다.


이상 전기기사로 도망간 겁쟁이의 조언이다.