미국에서 통계로 박사도 해보고 지금은 테크 회사에서 일하고 있는 아재야. 그냥 오랜만에 주말에 시간도 있고 해서 미국에서 소위 말하는 데싸 사람들이 보통 어떤식으로 준비해서 취업하고 일하는지 써 볼께. 나도 이제 직장 생활 시작한지 얼마 안되서 회사생활 자체는 잘 모르고 한국이랑 미국이랑 취업시장이 좀 다를 수 있으니까 참고만 해.
1. 모델, 분석의 복잡성 보단 비지니스 문제의 복잡성
학교에서 어렵지만 또 재밌는 복잡한 모델을 많이 배울꺼야. 또 심도있는 통계 이론들도 배우고. 하지만 회사에서는 모델링이나 복잡한 분석 자체는 별로 할 기회가 없을 꺼야. 물론 모델링만 전문적으로 하는 팀들이 있긴 한데 보통 통계쪽 사람보단 모델링 이론 자체를 잘 아는 연구원 조금이랑 엄청나게 많은 엔지니어들이 달라붙어서 하는 일이기도 하고, NLP나 Vision쪽 아닌 이상에야 logistic regression보다 복잡한 거 쓸 일은 많지 않아. 모델이 복잡할 수록 디버깅도 어렵고 유지 보수도 비싼데 사실 회사 규모의 데이터를 다룰 땐 안정성이 더 중요하거든. 게다가 요즘 추세는 AutoML이기도 하고. 분석도 아주 고도의 기법을 써봤자 Communication cost만 증가하고 사실 복잡한 분석일 수록 그 기반에 있는 가정들이 맞다는 걸 설득하기도 어려워. 보통 학교에서는 단순화되고 추상화된 문제를 심도있게 분석하지만 회서에서는 복잡하고 실질적인 문제를 직관적으로 분석하는 걸 더 우선시 해. 결국 문제만 잘 정의하면 최대한 단순한 분석 기법으로 분석하는게 고객에게 설명하기도 좋고 회사 stakeholder들에게 설명하기도 좋기 때문에 더 그래.
2. 그래도 알아두면 좋은 통계 지식들
그래도 통계 지식들 중에 자주 쓰이고 특히 면접 볼때 중요하게 평가하는 요소들이 있어. 예를 들면 가설검정은 엄청 중요해. 일반적인 데싸가 하는 일의 80%는 AB test와 관련되어 있다고 봐도 좋을 거야. 물론 t-test p-value 유도하는 거 같은 게 중요하다는 건 아니야. 그것 보다는 실험설계 자체가 더 중요하고 (어떤 metric을 사용할 것인가, 어떻게 A, B group을 나눌 것인가 - 현실 문제에서는 생각보다 쉽지 않을 수 있어. 혹은 sample size를 어떻게 책정할 것인가 같은 문제들) 그리고 통계 분석 결과를 어떻게 잘 이해하고 설명할 수 있는 지가 중요해 분석 자체보다도 더 valuable하게 여겨져.
또 기본적으론 비지니스 문제들을 통계 문제로 풀어내는 능력을 많이 봐. 예를 들면 면접에 가면 t-test를 설명해보라고 하지 않고 대신 "우리가 페북의 채팅 팀이라고 가정하고 새로운 채팅 기능을 만들었는데 이 기능이 유용한지 어떻게 평가할 거냐" 이런 식으로 질문이 나오는데. 바로 그냥 "AB test하면 됩니다" 라고 얘기하면 당연히 탈락이고. 대신 새로운 채팅 기능의 유용성을 어떻게 비니지스적인 측면에서 정의하고 수치화 할건지 먼저 면접자와 토론하고 이 합의된 측정지표를 평가하기 위해 데이터는 어떻게 수집할 건지, 또 이 지표를 바탕으로 채팅 기능 평가 문제를 통계 문제로 환원시켜 실험을 설계해나가는 그 일련의 과정들을 잘 아는 게 훨씬 중요해. 그 밖에도 분석결과를 잘 해석하는게 중요하기 때문에 인과 vs 상관 쪽 구분도 잘 해야하고, Simpson's paradox 같이 결과 해석에 있어서 주의해야 할 것들에 대해 잘 아는 지를 많이 확인해.
3. 대학원 가야하나
결론부터 말하면 석사정도는 거의 기본 요구 사항이야. 근데 꼭 통계 전공일 필요는 없고 데이터를 가지고 분석을 하는 거의 모든 전공은 다 좋게 평가해. 박사는 하면 좋긴한데 박사 자체의 기회비용도 생각하면 회사 갈꺼면 석사까지가 제일 무난한 거 같아. 그래도 나는 박사 때 재밌는 연구들 많이 했어서 좋았어. 지금도 계속 주말같은 때 페이퍼도 아직 쓰고 있고. 다만 경제적인 측면이나 커리어 성장에서 큰 게 중요하진 않다는 거야. 근데 박사를 하면 박사만 할 수 있는 일들을 맡기는 해서 장단이 있긴 해. 참고로 내가 있는 팀은 10명정도 데싸가 있는데 전부 박사긴 한데 통계 박사는 나랑 매니저 밖에 없어.
궁금한 거 있음 댓글에 달아죠 가끔 들어와서 보고 답해 줄 수 있는 것 대답해 줄께.
오... 추천박고 갑니다 박사님. 근데 질문있는데 데싸가 개발지식 필수로 가져야 한가고 생각함? 물론 다다익선 이지만 가끔 보면 데이터 파이프라인 같은거 짤줄 모르는 데싸들은 회사에서 필요 없다고 주장하는 사람들도 가끔 있어서
그건 회사 by 회사라고 생각해. 큰 회사들은 보통 data engineer가 따로 있어서 그 분들이 데이터 파이프라인을 관리해. 그쪽도 엄청 전문지식이 필요한 분야라 데싸들은 그 분들이 잘 만들어주신 인프라를 사용하는게 회사입장에서도 더 효율적이지. 예를들어 우리팀이 다루는 데이터는 하루에도 수백 테라가 쌓여서 나 혼자선 손도 못될 양이지만 인프라가 잘 되어 있어서 나는 그냥 쿼리 몇 줄 짜면 보통 분석에 필요한 형식에 맞게 ~10G 수준으로 정리해서 R로 불러올 수 있어 . 반면에 회사가 아직 성장하는 중이라서 인프라가 부족하거나 혹은 큰 회사여도 회사 외부의 자료가 자주 필요한데 그 소스가 일정하지 않은 경우에는 아무래도 분석쪽 역량 만큼이나 데이터 엔지니어링을 잘 알고 있는 사람이 도움이 되겠지.
일반적으론 데싸들한데 간단한 SQL정도 (그냥 동영상 강의 몇개 보면 알 수준) 이상을 잘 안 물어보더라고. 나는 SQL 아예 모르고 회사 갔어 면접 때 물어보지도 않았고. 회사 가서도 다른 팀원들이 예전에 짜논 쿼리 약간 수정해서 쓰고 있고 지금까진 딱 한번 아주 간한 부분 열 몇 줄 정도 data pipline 코드 수정했던거 같아. 하지만 만약에 크롤링을 해야한더거나 엄청 복잡한 외부 API를 사용해야하는 팀이면 그런걸 할 줄 아는 사람을 메인으로 뽑고 그 사람들이 약간의 분석도 할 수 있는 걸 선호하겠지. 그 분들은 데싸라기 보단 데이터 엔지니어라고 부르는 게 맞는 거 같아.
고마워유! 근데 하나 더 질문해도 됨? 다짜고짜 물어봐서 미안 ㅠ 실제 현업에서 머신러닝 말고 룰기반으로 하는 경우도 많이 있을까 cs에서 배운 알고리즘 같은걸로. 예를 들어 알고리즘에서 배우는 다이내믹 프로그래밍이나 그리디 메소드나 그래프 알고리즘 같은거
룰 기반인 알고리즘들 당연히 많이 쓰이지만 보통은 SWE들이 작성하고 관리해. 데싸들은 그다지 복잡한 알고리즘을 쓸 일이 없어. 물론 직접 뭔가를 구현하려면 어느 정도 알면 좋겠지. 하지만 그때도 어떤 알고리즘 / 자료구조가 어떨 때 쓰면 좋다 정도 알면 충분한 거 같아. 보통 뭘 쓸지를 정하면 회사 내부에 간단한 알고리즘 / 자료구조들은 이미 다 구현되어 있으니까 데싸들은 잘 조립만 하면 되고 또 정말 production에 쓸 performance가 중요한 코드를 짤 일이 생겨도 (거의 없겠지만) 이땐 보통 SWE들이 review도 해주고 시작부터 도움도 받을 수 있을거야.
정말 유익한 정보인듯. 고마워유! 암튼 쉬는 날 괴롭혀서 미안 ㅋㅋㅋ
미국에서 박사1년차하고 있는 새내기인데 취업하려고 할때 연구 잘하고 페이퍼 잘쓰는게 중요할까여? 가끔 어차피 취업할거면 걍 네트워킹이 젤 중요한게 아닌가 싶어서...
회사를 갈꺼여도 research scientist 같은 걸로 갈꺼면 페이퍼 잘 써야 되고 DS같이 응용쪽은 페이퍼는 별로 중요하지 않아. 인턴쉽 할 수 있는 한 많이 하는 거 추천해. 그리고 정말 회사로 갈께 분명하면 석사만 받고 박사는 그만두는 케이스도 많이 봤어. (물론 학교에서 박사 2년한걸 석사로 인정해주는 경우만, 아니면 OPT가 안나와서 안되고)
인턴 기회도 랩을 잘잡아야된다는 얘기가 있던데 어떻게 생각하세요???
인턴쉽은 많이들 하는 랩에 가면 아무래도 네트워크도 쉽고 좋을 거야. 나는 사실 원래 학계로 갈 생각이었어서 인턴쉽을 한적은 없어 자세힌 모르지만. 그래도 박사면 랩은 본인 연구주제랑 관련이 크니까 관심있는 랩으로 가는 걸 추천해. 아무리 회사 간다고 해도 박사도 기니까.
좋은 글 잘 읽었습니다. 궁금한게 있는데 그럼 나머지 데싸 팀원 8명은 어떤 전공 박사들인가요?
산공, 기계 공학, civil engineering 도 있고 다양해. biostat도 있는데 내가 글 쓸 때 통계로 안 넣었네. 보통 다 engineering 쪽 박사들이긴 해.
선생님이 보았을때 기계, civil 등의 비산공 공학 박사들을 기업이 비싼 돈 들여서 데이터 사이언티스트로 고용하는 요인은 무엇일까요? 저도 데싸 공부중인데 전통적 공대(전기, 화학, 기계) 백그라운드라 궁금하네요
DS는 통계문제를 푸는 사람이 아니라 quantitative analysis를 잘 하는 게 중요해서 통계 전공이 아니여도 아주 전문적인 통계 분석이 필요한 분야가 아닌 이상 큰 차이가 없는 거 같아. 어차피 신입은 박사를 받고 왔어도 많은 걸 새로 배워야지 도메인 지식이 중요하니까. 회사에서 하는 분석 업무라는게 학교에서 경험하기 어려운 측면도 있고 해서 기업 입장에서는 다양한 사람들을 뽑아서 빨리 키우거나 아예 경력직을 뽑는게 좋지. 이건 꼭 DS만 그런게 아니고 우리회사 SWE들 중에도 CS전공이 아닌 사람이 더 많아.
통계, ml 지식을 박사급은 아니지만 커뮤니케이션 정도는 할 수 있는 정도의 지식을 갖추고 도메인 지식 및 개발 능력도 어느정도 갖춘 generalist에 대해서는 어떻게 생각해? 요새 데이터 시장에서 한쪽을 깊게 판 전문가에 비해 수요가 높은 사람일지가 궁금하네
근데 인더스트리에선 박사급 연구원에 대한 수요가 많을까... 거의 다 제네럴리스트일듯. 당장 저 분도 코어 리서치 하시는 분은 아닌거 같은데
하긴 박사졸한 전문적인 데싸 인력은 매우 소수이고 그 사람을 서포트하거나 협업하는 사람들이 다수일거같긴한데 먼가 로망이 생겨서 궁금해지는듯ㅋㅋ 현재 위에서 말한 제네럴리스트 포지션으로 가고 있는데 나중에 경력이 쌓였을 때 이도저도 안 될까봐 그게 좀 걱정이 되더라구
많은 DS는 generalist에서 시작하는데 각자 자기 도메인의 specialist로 성장해나가는 게 일반적인 track인거 같아. 한쪽을 깊게 판다고 했을때 그 한쪽이란게 뭔진 잘 모르겠지만 그게 도메인이라면 엄청 좋게 작용할꺼야. 통계 자체도 깊게 파는 분들이 있어. 대표적으로 experiment platform 만드시는 분들은 통계 지식이 많이 요구되고 (물론 AB test 관련으로) Causal inference도 회사 일에 많이 쓰여서 깊게 파는 분들 많아.
bandit algorithm은 많이 안 쓰이나요? 슬슬 분위기가 글로 넘어가는 것 같던데 아직 실무에 적용될 수준은 아닌가요? - dc App
밴딧은 예전부터 많이 쓰여왔어 - 특히 Ads 쪽이나 추천 시스템에서 많이 쓰고. 근데 multi-armed나 contextual정도 쓰이고 RL은 아직 실무에 적용되는 케이스는 많지 않아. 나도 밴딧으로 NeurIPS랑 ICML 페이퍼 썼었고 실제로 취업할 때 도움이 됐어.
좋은 글 잘 봤습니다. 저도 대학원 진학 후 DS취직을 희망하는데 통계대학원,빅데이터 대학원 둘중에 어느곳을 가는게 좋을까요? 지금은 통계 주전공, 컴공 복전중인 학부 3학년입니다
그건 하고 싶은 일에 따라 많이 달라서 뭐라고 조언해주기가 어렵다. 근데 만약에 미국 갈 생각이면 CS석사가 취업하기 좋아.
답변 감사합니다
혹시 A/B/N test나 Multivariate testing은 A/B test에 비해 자주 안 쓰이나요?? - dc App
일단 A/B/n 이랑 MVT가 어떻게 다른지 먼저 생각해보면 좋아. A/B/n은 가끔 쓰여. 예를 들면, 메인 화면 색 theme을 정하는 게 후보가 2개가 아니고 여러개다 그럼 A/B/n test를 해야지. 반면에 MVT는 거의 안 쓰고 사실 쓰는 걸 추천하지 않아. 그 이유는 MVT는 한가지 factor가 여러 value를 갇는 게 아니고 여러 개의 factor가 있는 건데. 이런 경우에는 factor의 갯수에 exponential하게 실험 데이터가 쪼개지기 때문에 비효율적이고 각 개별 factor를 빨리 개발해서 A/B test를 여러 번 하는 게 더 선호되. (물론 iteration이 빠른 분야에 한정. iteration이 느리고 비싼 분야는 그렇게 못하고 사실 그런 분야는 데싸가 할일이 별로 없어)
메일로 질문 가능할까요?
개별 질문은 대답해줄 여력은 없어. 여기 댓글이나 따로 글로 질문 올리면 나 말고도 많이 대답해 줄꺼야.
직장인인데 특수대학원 석사는 별로인가요?
특수대학원이 정확히 어떤건지 잘 모르겠다. 미국은 보통 그냥 직장을 1~2년 쉬고 석사를 하고 커리어 전환을 하는 케이스가 일반적이라서.